韩国论坛将需用AI审查工具扫描每一张图片

韩国在线社区将需要利用AI审查工具扫描每一张图片

由于近期《电气通信事业法》的修订，韩国政府要求互联网社区和论坛所有者使用AI扫描用户上传的所有图片和视频。运行这些AI模型所需的硬件也不由政府提供，网站所有者必须自购数据中心级Nvidia GPU，给小型企业和论坛带来了财务压力。网站需要在7月1日（即下个月）起立即实施这些硬件和软件功能。

韩国政府提供了一张原始图片，说明了AI模型的硬件要求。我还添加了英文翻译版图片，用nano banana制作（抱歉使用了AI…）。

相关文章（韩语）：韩国论坛/新闻网站（루리웹）所有者在听取韩国政府简报后发表帖子，表达情况多么荒谬：即使以韩国标准来看，这感觉也非常反乌托邦。

这便是为什么韩国的新闻自由仅略好于其威权邻国朝鲜的原因。

他们到底想审查什么？裸体/色情？如果是这样，为什么需要如此强大的Nvidia硬件，即使没有AI过滤也不难吧？

我要么说是无能的立法者写的，要么是某个目标是要扼杀小型、自由和开放社区的人写的。但很可能是两者都有。

我法律不熟练，所以可能错了，但法律本身大致涉及未经受害者同意的非法拍摄色情材料和CSAM材料。但实际上情况更糟。韩国一直在推动将包含未成年人的绘画、小说等创作作品归类为CSAM。如果你画了一张17岁二次元动漫角色的NSFW同人图？没错，那就是CSAM，准备接受审讯和坐牢吧。虽然色情在韩国基本是非法的，但AI模型似乎更加敏感，通常会屏蔽即使是轻微裸体的内容。这是因为该法律本身并不新鲜，现在只是扩展到互联网社区和论坛，但该法律自2021年以来已对KakaoTalk等即时通讯应用生效，并且有案例显示AI模型审查了正常泳装照、动漫绘画、梗图、任何包含文本“sex”的图片，甚至不知为何还审查了线性代数数学题。几天前在韩国，制作关于已故前总统卢武铉的梗图引发了争议。未来该系统可能会审查关于政治人物的梗图，谁知道呢。

这是一个有着悠久审查传统的国家。审查进入网络并不奇怪。