В 2022-м малоизвестная для широких масс OpenAI выпустила сразу два трендовых ИИ-продукта: текстовый ChatGPT и DALL-E2 для генерации картинок. Стартап задумывался как неприбыльная исследовательская лаборатория, а теперь претендует на оценку почти в $30 млрд.

  «Трудно представить, насколько искусственный интеллект человеческого уровня может принести пользу обществу, и так же трудно представить, насколько он может нанести ущерб обществу, если его построить или использовать неправильно», – говорится в первом сообщении в блоге на сайте OpenAI от декабря 2015 года. 

 Спустя семь лет ее ChatGPT – алгоритм, умеющий писать правдоподобные тексты, – запретили использовать в школах штата Нью-Йорк. Это первый прецедент подобных санкций против системы искусственного интеллекта в США. Возможности ChatGPT воспевают технооптимисты и успешно используют на практике киберпреступники. Технопессимисты, наоборот, считают, что ИИ убьет множество профессий. Ни одна из гипотез не подтверждена и не опровергнута...........

 

Альтруистический старт: с чего начиналась OpenAI

«Есть ли способ застраховать или повысить вероятность того, что искусственный интеллект будет развиваться выгодно?» – задавал себе вопрос Илон Маск в интервью главному редактору Wired Стивену Леви в 2015 году. Ответ Маска – основанная в тот же день OpenAI.

OpenAI задумывалась как некоммерческая организация – исследовательская лаборатория с бесплатными патентами. Заявленная Маском цель – разработать безопасный для человечества ИИ и противостоять крупным корпорациям.

Возглавил OpenAI сам Маск и бывший президент Y Combinator Сэм Альтман. «Поскольку это некоммерческая организация, она будет свободной собственностью мира», – говорил Альтман в интервью Wired в 2015-м. Под великую идею привлекли крупные мозги. Соучредитель и главный научный специалист – Илья Суцкевер – ученик пионера нейронных сетей Джеффа Хинтона из Университета Торонто.

Суцкевер перешел в команду Альтмана и Маска, продав Google свой стартап по исследованию глубоких нейронных сетей по распознаванию голоса и изображения DNNResearch. «Илья был источником приземления: он был четким техническим экспертом с широкими знаниями и виденьем», – вспоминал первое впечатление о Суцкевере другой соучредитель OpenAI Грег Брокман. Он стал техническим директором OpenAI, сперва создав Stripe – платежного гиганта, который ныне стоит $95 млрд.

«Людям, которых мы наняли, нравится то, что (OpenAI, – ред.) открыта и они могут делиться своей работой», – говорил Альтман Wired. Однако в 2016-м одной из самых больших статей расходов неприбыльной лаборатории стали зарплаты звездной команды. Суцкевер получил более $1,9 млн в год, другой исследователь Ян Гудфеллоу – более $800 000. Третье большое имя в этой области, робототехник Питер Аббил, заработал $425 000, пишет NYT со ссылкой на налоговую декларацию OpenAI. Откуда деньги?

На старте OpenAI получила $1 млрд на развитие от основателей – Маска, Альтмана, Брокмана. К финансированию также присоединились бизнес-ангелы: соучредитель LinkedIn Рид Гоффман, Джессика Ливингстон из Y Combinator, Питер Тиль из PayPal. Свою часть внес облачный сервис Amazon Web Services (AWS), аутсорсер Infosys и лаборатории YC Research.

 Донорских вливаний едва хватило на четыре года. Тогда компания заявила, что $1 млрд – маловато, чтобы конкурировать с хорошо обеспеченными ИИ-лабораториями Google и Facebook. Выход – реструктуризация в OpenAI LP – гибрид коммерческой и некоммерческой организации с «ограниченной прибылью (capped-profit)». Для инвесторов установили предел – только стократный возврат вложенных денег. К примеру, на инвестированных $10 млн заработать можно максимум $1 млрд. «Лишние» деньги получает некоммерческая часть OpenAI.

По иронии, самая большая корпорация из тех, которым должна была противостоять OpenAI, стала одним из крупнейших ее инвесторов. В 2019 году разработчик ИИ получил $1 млрд от Microsoft. «Альянс между ведущим поставщиком облачных технологий и ведущей исследовательской лабораторией искусственного интеллекта выглядит как брак, заключенный на небесах», – сказал генеральный директор Института искусственного интеллекта Аллена Орен Этциони изданию GeekWire.

Предвзятость

В ходе беседы затрагиваются несколько тем, связанных с этическим компонентом ИИ и данных в целом. Одна из них — концепция предвзятости. Не существует такого понятия, как беспристрастный набор данных. Как говорит Таунсенд: «Предвзятость существует, потому что существуют люди». Настоящий вопрос заключается не в том, чтобы полностью устранить предвзятость, а в том, чтобы провести различие между вредной предвзятостью и целенаправленным представлением.