Насколько серьёзно стоит воспринимать предупреждения о рисках искусственного интеллекта? Этот вопрос стал ключевым подтекстом в иске Илона Маска против коммерческой деятельности OpenAI. Его юристы утверждают, что изначально организация создавалась как некоммерческая, сосредоточенная на безопасности ИИ, но свернула с пути в погоне за прибылью. В качестве доказательства они ссылаются на старые письма и заявления основателей о необходимости создать альтернативу Google DeepMind, ориентированную на общественные интересы.
В суде сегодня выступил единственный эксперт со стороны Маска — Питер Рассел, профессор компьютерных наук из американского университета, десятилетиями изучающий ИИ. Его задача заключалась в том, чтобы дать общий контекст о технологии и подтвердить, что она достаточно опасна, чтобы вызывать серьёзные опасения.
Рассел был одним из подписантов открытого письма в марте 2023 года, призывавшего к шестимесячной паузе в исследованиях ИИ. Это демонстрирует противоречивость ситуации: сам Маск также подписал это письмо, параллельно запуская собственную коммерческую лабораторию xAI.
В ходе выступления Рассел рассказал присяжным и судье Ивонн Гонсалес Роджерс о различных рисках, связанных с развитием ИИ: от угроз кибербезопасности до проблем с «несоответствием целей» и принципом «победитель получает всё» в гонке за создание искусственного общего интеллекта (AGI). По его словам, существует фундаментальное противоречие между стремлением к AGI и вопросами безопасности.
Более масштабные опасения Рассела о существовательных угрозах со стороны неограниченного ИИ не были озвучены в открытом суде после возражений адвокатов OpenAI, которые убедили судью ограничить его показания. Однако Рассел давно критикует динамику гонки вооружений, созданную ведущими лабораториями по всему миру, которые соревнуются за первенство в достижении AGI, и призывает правительства к более жёсткому регулированию этой сферы.
Адвокаты OpenAI в ходе перекрёстного допроса старались показать, что Рассел не оценивал напрямую корпоративную структуру их организации или её конкретные политики безопасности.
Для наблюдателей, включая судью и присяжных, ключевым остаётся вопрос о том, какую ценность имеет связь между корпоративной жадностью и опасениями о безопасности ИИ. Практически все основатели OpenAI неоднократно предупреждали о рисках ИИ, одновременно подчёркивая его пользу, пытаясь развивать технологию как можно быстрее — и создавая планы по запуску контролируемых ими коммерческих предприятий в этой области.
Со стороны очевидна другая проблема: основатели OpenAI после его создания осознали, что для успеха организации необходимы колоссальные вычислительные ресурсы. Деньги на это могли прийти только от коммерческих инвесторов. Страх перед тем, что AGI окажется в руках одной организации, подтолкнул их искать капитал, что в итоге раскололо команду, породило известную нам сегодня гонку вооружений и привело к этому судебному разбирательству.
Та же динамика уже проявляется на национальном уровне. Сенатор Берни Сандерс, продвигая закон о моратории на строительство дата-центров, ссылается на опасения, высказанные Маском, Сэмом Олтманом, Джеффри Хинтоном и другими. Ходен Омар, работающий в торговой организации Центре инноваций в области данных, возражал против того, что Сандерс цитирует только их страхи, игнорируя надежды. Он заявил, что «непонятно, почему публика должна игнорировать всё, что говорят техномиллиардеры, кроме тех случаев, когда их слова можно использовать для заполнения пробелов в шатком аргументе».
Теперь обе стороны дела просят суд сделать именно это: отнестись серьёзно к части аргументов Олтмана и Маска, но проигнорировать те части, которые менее полезны для их юридической позиции.
