Самый популярный ИИ чатбот в мире контролируется патологическим лжецом

Журналисты The New Yorker Ронан Фэрроу и Эндрю Маранц опубликовали крупное расследование о главе OpenAI Сэме Альтмане — по итогам полутора лет работы и более ста интервью с людьми, имеющими прямую информацию о том, как он ведет бизнес. В распоряжение авторов также попали ранее не публиковавшиеся внутренние документы. Фэрроу также выпустил краткий пересказ у себя в сети X.

Два ключевых документа расследования — конфиденциальное досье, составленное осенью 2023 года бывшим главным научным сотрудником OpenAI Ильей Суцкевером, и больше 200 страниц личных заметок нынешнего гендиректора Anthropic Дарио Амодея. Досье Суцкевера начинается со списка “Сэм демонстрирует устойчивые паттерны к...”. Первым пунктом там стоит “Ложь”. Заметки Амодея прямо утверждают: “Проблема OpenAI — сам Сэм”.

Конкретный пример: в конце 2022 года Альтман заверил совет директоров, что спорные функции готовящейся модели GPT-4 прошли одобрение комитета по безопасности. Член совета Хелен Тонер запросила документацию — и выяснила, что наиболее спорные функции одобрены не были. Параллельно стало известно, что Microsoft без обязательной проверки безопасности уже выпустила раннюю версию ChatGPT в Индии — об этом Альтман совету вообще не сказал.

Независимое юридическое расследование, которое было условием возвращения Альтмана в компанию после его увольнения советом директоров в ноябре 2023 года, так и не закончилось письменным отчетом: юридическая фирма WilmerHale лишь устно проинформировала о результатах двух новых директоров — тех, которых отбирали при участии самого Альтмана. По данным издания, решение не фиксировать выводы письменно было принято по совету личных юристов этих же директоров.

Другой эпизод: в 2017 году Альтман на встречах с американскими спецслужбами утверждал, что Китай запустил собственный “проект Манхэттен в области ИИ” и поэтому OpenAI нужны миллиарды госфинансирования. Когда его попросили предоставить доказательства, он сказал, что “кое-что слышал” — и не прислал подтверждений. По выводу одного из разведчиков, проверившего эту информацию, никакого проекта не существовало.

“Он не ограничен правдой, — цитирует расследование бывшего члена совета директоров OpenAI. — У него есть два качества, которые почти никогда не встречаются в одном человеке. Первое — сильное желание нравиться людям в каждом конкретном взаимодействии. Второе — почти социопатическое безразличие к последствиям обмана”. Когда после увольнения в 2023 году совет потребовал от Альтмана признать систематический обман, он ответил: “Я не могу изменить свою личность”.