Первый зарегистрированный арест Министерства юстиции за материалы о сексуальном насилии над детьми, созданные с помощью ИИ (CSAM)

Министерство юстиции США арестовало мужчину из Висконсина за создание материалов сексуального насилия с участием детей с помощью ИИ

На прошлой неделе Министерство юстиции США (DOJ) арестовало Стивена Андерегга, 42-летнего инженера-программиста из Хольмена, Висконсин, за создание и распространение материалов сексуального насилия с участием детей (CSAM), сгенерированных искусственным интеллектом. Этот случай установлен важный юридический прецедент, поскольку DOJ стремится прояснить, что эксплуатационные материалы остаются незаконными, даже если в их создании не участвовали реальные дети. «Простыми словами, CSAM, созданный ИИ, все равно является CSAM», — заявила заместитель Генерального прокурора Лиза Монако в пресс-релизе.

По данным DOJ, Андерегг использовал модифицированную версию генератора изображений с открытым исходным кодом Stable Diffusion для создания тревожных изображений. Существует предположение, что он пытался заманить 15-летнего мальчика в сексуальные ситуации, отправляя ему эти изображения в директ на Instagram. DOJ предъявило ему обвинения по четырем пунктам «в производстве, распространении и хранении непристойных визуальных изображений несовершеннолетних, занимающихся сексуально явным поведением, а также в передаче непристойного материала несовершеннолетнему младше 16 лет». Явные изображения показывали «обнаженных или полуобнаженных несовершеннолетних, распускающих или касающихся своих гениталий, или занимающихся половой близостью с мужчинами».

Для генерации этих изображений Андерегг, по сообщениям, использовал специальные запросы, включая негативные, чтобы направить ИИ от нежелательных результатов. Несмотря на то что облачные генераторы изображений, такие как Midjourney и DALL-E 3, имеют защитные меры против такого злоупотребления, Андерегг якобы использовал Stable Diffusion 1.5, вариант с меньшими ограничениями, разработанный компанией Runway ML.

Это дело подчеркивает важное различие в продолжающемся обсуждении CSAM: его незаконный характер не ограничивается только участием живых детей. Даже цифровой CSAM, созданный ИИ, может нормализовать вредоносное поведение и способствовать хищническим действиям. Этот случай подчеркивает приверженность DOJ к решению проблем, связанных с новыми технологиями. «Технология может изменяться, но наша приверженность защите детей останется неизменной», — подчеркнула заместитель Генерального прокурора Монако. «Министерство юстиции будет активно преследовать тех, кто производит и распространяет CSAM, независимо от способа его создания».

Если Андерегг будет признан виновным по всем пунктам, он может столкнуться с тюремным сроком от 5 до 70 лет. В настоящее время он находится под стражей, ожидая слушания, запланированного на 22 мая. Поскольку технологии ИИ продолжают развиваться, это дело станет критической отправной точкой для будущих юридических разбирательств, касающихся эксплуатации детей в цифровом пространстве.