В США зафиксирован случай подачи дипфейка в качестве доказательства в суде

Специалисты предупреждают, что волна фальсификаций с использованием ИИ только усиливается, а система правосудия не успевает адаптироваться.

В США судьи все чаще сталкиваются с поддельными материалами, созданными искусственным интеллектом. Дипфейковые видео, изменённые голоса и фальшивые документы попадают в судебные дела, из-за чего судьям приходится внимательнее проверять доказательства. Это дополнительно замедляет работу системы, которая и так перегружена. Об этом сообщает NBC News.

Отмечается, что один из самых показательных случаев произошёл в Калифорнии в рамках жилищного спора Mendones v. Cushman & Wakefield. Судья Виктория Колаковски заподозрила, что видеосвидетельство, представленное адвокатами одной из сторон, было создано ИИ. Основаниями стали монотонный голос, размытые черты лица и неестественно повторяющиеся мимические движения. По словам судьи, видео имело очевидные признаки генеративной обработки. В сентябре Колаковски отклонила иск, а в ноябре - во второй раз отказала в его возобновлении.

По мнению экспертов, этот инцидент является одним из первых зафиксированных случаев, когда дипфейк был представлен как настоящее свидетельство. Специалисты предупреждают, что волна ИИ-фальсификаций только усиливается, а система правосудия не успевает адаптироваться.

Был случай, когда американский юрист получил штраф в $15 000 за подачу документов с вымышленными ссылками на несуществующие дела, которые сгенерировал ИИ. Судьи подчёркивают, что опасность шире, поскольку ИИ-голоса могут быть использованы для создания фальшивых угрожающих записей, а поддельные документы способны незаметно попадать в официальные материалы.

Однако формальных протоколов работы с ИИ-доказательствами до сих пор нет. Организации вроде National Center for State Courts лишь предлагают судьям контрольные списки для проверки происхождения и подлинности материалов.

Напомним, в прошлом году Европарламент одобрил закон об искусственном интеллекте. Это первый в мире нормативный акт регулирования ИИ.

Развитие многоликого ИИ: где опасность во время "идеального шторма"

Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp