[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
' x  h# Q2 u) y. k. [4 }$ Timport os
$ z: T4 t  `6 p# fimport imagehash
from PIL import Image

def compute_image_hash(image_path):
) f$ K8 V" {7 D5 _2 J( s. h    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
    try:
        with Image.open(image_path) as image:
8 {3 C# e: x! L5 ?8 H            return imagehash.average_hash(image)
; m, p" u# C; u# ?  y    except (OSError, IOError) as e:
  M4 Z5 Y- x6 ^8 V        print(f"处理图像 {image_path} 时出错: {e}")
8 u) I! r2 Y& d. P# s        return None

def remove_duplicates(image_folder):
    hash_dict = {}
; q5 s' v6 l( K) ~; X5 P0 u    duplicates = []

% v+ v# Q, R1 t! u    for filename in os.listdir(image_folder):
, O' I( E+ }- Z" F  _$ ^5 I        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
  s5 ~- E) Q/ x( [3 }8 ~' h            image_path = image_folder + "\\" + filename
* C; e: \) k1 l- C            image_hash = compute_image_hash(image_path)
: Y. N. P- ?# O& [6 y; g/ _
            if image_hash in hash_dict:
2 T6 t- A* z3 J# }$ s                duplicates.append(image_path)
            else:
- m- g; T3 F0 J; s. t4 m1 t, e7 S3 l                hash_dict[image_hash] = image_path
  r: x) A' O9 _2 b6 z5 L* e        else:
            pass
  e& i+ w% G( z8 }! @' c
1 M. f. ^- Y4 q+ W1 s    for duplicate in duplicates:
        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")
9 k, b5 q9 t% ^& J6 h. G
    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
remove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
& p( o$ ?0 S. g7 x有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

! i  w* y( ]5 q- _- S有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

% u" {& G- J0 _0 v+ d一眼ai