Генеральные прокуроры всех 50 штатов призвали Конгресс помочь бороться с CSAM, созданным искусственным интеллектом

В открытом письме говорится, что мы участвуем в “гонке со временем, чтобы защитить детей нашей страны’.

Отклеить/Лайджа Мирс

Генеральные прокуроры всех 50 штатов совместно запретили и направили открытое письмо Конгрессу с просьбой усилить меры защиты от изображений сексуального насилия над детьми, созданных с помощью искусственного интеллекта, как первоначально сообщало агентство AP. В письме содержится призыв к законодателям “создать экспертную комиссию для изучения средств и методов искусственного интеллекта, которые могут быть использованы конкретно для эксплуатации детей”.

В письме, направленном лидерам Палаты представителей и Сената от республиканцев и демократов, также содержится призыв к политикам расширить существующие ограничения на материалы о сексуальном насилии над детьми, чтобы конкретно охватить изображения и видео, созданные искусственным интеллектом. Эта технология чрезвычайно нова, и, как таковая, в книгах пока нет ничего, что явно относило бы сгенерированные искусственным интеллектом изображения к той же категории, что и другие виды материалов о сексуальном насилии над детьми.

“Мы участвуем в гонке со временем, чтобы защитить детей нашей страны от опасностей искусственного интеллекта”, – написали прокуроры в письме. “Действительно, пресловутые стены города уже были разрушены. Сейчас самое время действовать”.

Использование генераторов изображений, так же, как Далл-и в середине путешествия, для создания материалов о сексуальном насилии над детьми, пока не станет легче , нуждаюсь в программном обеспечении для определения местоположения, запрашивать дополнительные данные. Однако эти прокуроры смотрят в будущее, когда повсюду начнут появляться версии программного обеспечения с открытым исходным кодом, каждая со своими собственными ограничениями или их отсутствием. Даже генеральный директор OpenAI Сэм Альтман заявил, что инструменты искусственного интеллекта выиграют от вмешательства правительства для снижения рисков, хотя он не упомянул жестокое обращение с детьми как потенциальный недостаток технологии.

Правительство, как правительство, двигается медленно, когда дело дошло до технологов, по раду причин, по колку Конгресу, поребровалось несколь лет, возможно, это все из-за того, что ты не можешь присоединиться к группе онлайннасилия над детьми во время встречи с АОЛОМ и тому подобного. С этой целью нет никаких непосредственных признаков того, что Конгресс собирается разработать законодательство об искусственном интеллекте, которое абсолютно запрещало бы генераторам создавать такого рода непристойные изображения. Даже всеобъемлющий Закон Европейского союза об искусственном интеллекте конкретно не упоминает о каком-либо риске для детей.

Генеральный прокурор Южной Каролины Алан Уилсон организовал кампанию по написанию писем и призвал коллег изучить законы штата, чтобы выяснить, “соответствуют ли законы новизне этой новой технологии”.

Уилсон предупреждает о глубокой подделке контента, в котором изображен реальный ребенок, созданный по фотографии или видео. По словам Уилсона, это не было бы жестоким обращением с детьми в общепринятом смысле, но изображало бы жестокое обращение и “порочило” и “эксплуатировало” ребенка с оригинального изображения. Далее он говорит, что “наши законы могут не учитывать виртуальную природу” такого рода ситуаций.

Технология также может быть использована для создания вымышленных детей, отобранных из библиотеки данных, для создания материалов о сексуальном насилии. Уилсон говорит, что это создало бы “спрос на индустрию, которая эксплуатирует детей”, в качестве аргумента против идеи о том, что на самом деле это никому не причинит вреда.

Хотя идея искусственного сексуального насилия над детьми является довольно новой, технологическая индустрия хорошо осведомлена о порнографическом контенте deepfake и предпринимает шаги по его предотвращению. Еще в феврале мета OnlyFans Pornhub и начали использовать онлайн-инструмент под названием успокойся, который позволяет подросткам сообщать о своих откровенных изображениях и видео из Интернета. Этот инструмент используется для обычных изображений и контента, сгенерированного искусственным интеллектом.