遭同學生成 AI 裸照!美國校園頻傳受害少女 逾 20 州將立法建「保護機制」

科技發展日新月異,尤以近年人工智慧最為熱門,但美國校園自 2022 年以來,便傳出有不少少女被同學以 AI 技術生成裸照,為防止憾事繼續發生,南卡羅萊納州、路易斯安那州等 20 州將立法禁止該行為並建立保護機制。

▲(圖片來源: Freepik )

根據《紐約時報》報導,由於人工智慧的迅速發展,美國許多校園為了防止學生作弊,都在努力應對這項科技帶來的挑戰和影響,不料令人擔憂的情況依舊發生,就有男學生將女同學的照片,利用 AI 技術生成暴露乳房和生殖器的假圖片,還在校車、學餐甚至舞會活動上,透過 Snapchat 和 Instagram 等平臺分享及展示。

▲(圖片來源:Freepik)

事實上,西雅圖 Issaquah 高中在去年就爆出,有家長投訴自己女兒慘遭 AI 生成裸照的毒手;今年位在加州的 Beverly Vista 中學更傳出,有 5 名學生因製造 16 名同學的裸照,而被校方退學的消息。對此,兒童性剝削專家表示「使用未經同意的人工智慧生成的影象,來騷擾、羞辱和欺凌年輕女性將有害她們的心理健康、聲譽和人身安全,並對她們的大學和職業前景構成風險」。

▲(圖片來源: Freepik )

非營利組織「失蹤及受剝削兒童國家中心( National Center for Missing & Exploited Children )」的法務長 Yiota Souras 則說一個男孩只需要一個下午的時間,就能利用人工智慧傷害 40 名未成年少女,並將影像流傳於網路上;另外,根據該組織的統計,自今年初以來已有逾 20 州推出有關打擊 AI 生成 18 歲以下未成年裸照的提案,如:

‧南卡羅萊納州:不論是製作或散佈,甚至是持有AI生成的未成年人性虐情色照片,都是違法行為。

‧路易斯安那州:製作、傳播及推廣未成年的合成性圖片,將面臨 5 ~ 10 年監禁。

‧麻薩諸塞州:除了將傳遞、製作未成年性圖像視為犯罪,還需教導學生如何負責任的使用生成式人工智慧。