在一个用于生成人工智能图像的数据集中，发现了近200张澳大利亚儿童的照片，儿童安全倡导者呼吁进行紧急法律改革。

人权观察(Human Rights Watch)在分析了用于训练流行人工智能工具(包括Midjourney和Stable Diffusion)的数据库中的少量图像后，于周三公布了这一发现。

这些数据是从各种各样的网络资源中搜集来的，其中包括澳大利亚婴幼儿的照片链接，其中一些人可以通过名字或就读的幼儿园来识别。

儿童安全和人工智能专家表示，这一发现突显出迫切需要修改法律，以保护儿童隐私，并加强教育，以确保生成式人工智能工具不被滥用。

免费获取明天的新闻

为好奇的澳大利亚人提供政治、商业、文化和观点方面的新闻。

读到现在

人权观察分析了LAION-5B数据集中58.5亿张图片和说明文字中的一小部分，并确定了190张来自澳大利亚的儿童照片，从刚出生不久的婴儿到为图书周盛装打扮的学生。

人权观察儿童权利和技术研究员韩慧贞表示，这一发现应该引起家长和政策制定者的关注，因为这些图像可能被用来制作深度伪造的图像，使儿童处于危险之中。

她说:“孩子们不应该生活在担心他们的照片可能被窃取并被用来对付他们的恐惧中。”

“澳大利亚政府应紧急制定法律，保护儿童数据免受人工智能引发的滥用。”

韩女士表示，其中一些图片在网上是不公开的，是从学校网站或未列出的YouTube视频中抓取的。

管理该数据集的德国非营利公司LAION表示，它已经从数据集中删除了已识别的图像，尽管韩女士表示，人工智能模型不会忘记它们训练过的数据。

阿兰娜和玛德琳基金会首席执行官莎拉·戴维斯称这一发现“令人恐惧”，并表示这突显出澳大利亚法律需要加强对儿童隐私的保护。

她说:“儿童有权在他们生活、学习和玩耍的地方获得安全，包括在网上。”

“为了防止和解决未来的此类违规行为，迫切需要在立法、监管和行业实践中做出改变。”

斯威本大学的生物伦理学家Evie Kendal博士说，无论孩子们的照片是公开的还是限制的，他们都没有得到适当的同意。

“家长们可能已经同意把孩子的照片放在学校网站上……但这并不意味着他们同意为人工智能数据集收集这些照片，”她说。

“一旦这些图像出现在网上，它们就可以被修改，它们可以被非常不恰当地使用，而且没有控制。”

除了隐私限制外，肯德尔博士表示，澳大利亚人将受益于在人工智能技术的道德使用方面进行更多的培训和教育，这样收集到的数据就不会被用来造成伤害。

联邦政府预计将在8月份向议会提出隐私法案改革，其中包括儿童在线隐私法。