Генеральный директор OpenAI Сэм Альтман заявил, что польза искусственного интеллекта (ИИ) оправдывает принятие определённых рисков. Об этом он рассказал в интервью, опубликованном 4 октября новостным изданием Decoded издания Politico, специализирующимся на технологиях. Альтман подчеркнул, что технология должна оставаться открытой для широкой публики, и отметил важность того, чтобы у людей было право на собственный выбор.
Интервью вышло в технологическом издании Decoded издания Politico; Reuters распространил эту новость 4 октября. Его заявления прозвучали на фоне усиливающихся споров в отрасли о темпах развития ИИ и рисках всё более мощных систем. По информации Reuters, дискуссия разворачивается вокруг темпов развития и рисков, которые создают всё более мощные системы.
Что сказал Альтман
Альтман заявил в интервью, что мир должен принять возможность отдельных негативных последствий ради пользы ИИ и ради того, чтобы у людей сохранялось право на собственный выбор.
"We believe that the world should accept some bad things happening for the benefits of this technology and people having the agency," — Сэм Альтман в интервью изданию Decoded издания Politico (по информации Reuters).
Он обосновал эту позицию необходимостью того, чтобы технология находилась в руках общества. По его мнению, когда люди имеют право на собственный выбор — то есть широкий доступ к технологии, — положительные результаты перевесят негативные. Именно эта свобода, по его словам, является основой пользы, которую ИИ приносит обществу. Это заявление в очередной раз показало, что OpenAI выступает за открытость.
Его главный аргумент — баланс. Альтман убеждён, что люди совершают хороших поступков во много раз — на порядки — больше, чем плохих. Поэтому он заявил, что не примет сделку, в которой доступ к технологии ограничивается в обмен на гарантии полного искоренения неправомерного использования, мошенничества и кибератак.
"I wouldn't take a trade of saying, 'We'll make sure there's no major hacks, there's no misuse of this technology, there's zero scams, there's zero all the other bad things that will happen,'" — сказал Альтман. "Because I think people will do tremendously — orders of magnitude more — good stuff than bad stuff."
Эти цитаты приведены в новости Reuters от 4 октября. В том же интервью Альтман особо подчеркнул, что технология должна оставаться в руках широкой публики.
«Совершенно неприемлемый компромисс»
Альтман отверг идею жёсткого ограничения доступа с целью искоренить любое неправомерное использование. Он назвал такой обмен «совершенно неприемлемым компромиссом» (a completely unacceptable trade-off). По его словам, этот подход противоречит позиции OpenAI в пользу «мягкого регулирования» (lighter-touch regulatory stance).
Как отметил Альтман, сделка, в которой обещают нулевой риск, но резко ограничивают доступ, неприемлема. Он выступает за регулирование лёгкой рукой вместо жёстких ограничений и предлагает опираться на баланс пользы и рисков.
OpenAI и Anthropic: разница мировоззрений
Альтман заявил, что между OpenAI и её конкурентом Anthropic существует фундаментальная разница во взглядах на регулирование ИИ. Он объяснил это так: "I think there's a lot of daylight" — взгляды двух компаний разделяет большое расстояние.
По информации Reuters, генеральный директор Anthropic Дарио Амодеи в сентябре опубликовал статью, призывающую отрасль замедлиться. Амодеи призвал отрасль измерять темпы «frontier» — границы самых передовых систем. Альтман же заявил, что открыто поддерживает эту позицию.
Reuters подчёркивает, что заявления Альтмана открыто показывают два полюса дискуссии в отрасли: с одной стороны — призыв Амодеи замедлиться, с другой — требование Альтмана сохранять открытость и принимать риски.
Красная линия: потеря контроля
Альтман различил терпимое неправомерное использование и катастрофические последствия. Он заявил, что не приемлет риски, связанные с «серьёзной утратой контроля над ИИ» (a serious loss of control to AI). Об этом сообщил Digital Trends.
По информации Digital Trends, Альтман провёл это различие чётко: терпимое неправомерное использование — одно дело, утрата контроля — совсем другое. По его мнению, повседневные случаи неправомерного использования можно пережить, но фундаментальная утрата контроля — его красная линия. Риски за этой границей он не принимает.
