Немецкий суд вынес предварительное решение, которое может затронуть все поисковые системы и чат-боты с искусственным интеллектом, известные некорректным пересказом источников. Суд постановил, что Google несёт ответственность за ложные утверждения, генерируемые функцией AI Overviews.
Суть дела
Иск был подан двумя издателями, которые обнаружили, что AI Overviews в результатах поиска Google неверно связывает их с мошенническими схемами и сомнительными деловыми практиками. Система делала утвердительные заявления вроде «Да, [издатель] известен сомнительными деловыми практиками и часто воспринимается как мошенничество». После получения письма с требованием прекратить распространение ложной информации Google не исправил выводы ИИ.
Аргументы Google и позиция суда
Google пытался избежать ответственности, утверждая, что большинство пользователей понимают, что выводы ИИ не всегда точны и требуют проверки. Однако суд не согласился с этой позицией.
Суд установил, что в отличие от традиционных поисковых систем, которые просто представляют список ссылок на сторонние высказывания, инструмент Google делает «самостоятельные, новые и содержательные утверждения» на основе собственного неверного толкования ссылок в интернете.
Это создаёт проблему, поскольку издатели могли бы подать в суд на третьи стороны за клеветнические высказывания в результатах обычного поиска, но только Google может исправить лежащий в основе алгоритм и выводы, отображаемые в AI Overviews. Поскольку компания изначально этого не сделала, она «должна нести ответственность», постановил суд. Более того, аргумент Google был сочтён особенно слабым, так как обзор ИИ в данном случае «содержит утверждения, которых вообще нет в результатах поиска».
Последствия решения
Суд вынес постановление о временном запрете, обязывающее Google прекратить распространять ложные утверждения в AI Overviews. Это решение может иметь глобальные последствия, поскольку данный суд, по всей видимости, первым возложил ответственность на компанию, разрабатывающую ИИ, за речь, сгенерированную искусственным интеллектом.
Ранее компании, работающие с ИИ, надеялись, что предупреждения о дезинформации защитят их от судебных исков из-за ненадёжных результатов. В прошлом году один из разработчиков чат-ботов даже утверждал, что речь ИИ — это особая категория «чистой речи», защищаемая Первой поправкой.
Однако, согласно переводу немецкого судебного решения, ложные выводы были «в первую очередь выражением коммерческой деятельности ответчика», а «мнения» и ложные утверждения инструмента ИИ способны влиять на общественное мнение.
