23 ноября 2023 года, 5:51 утра по Гринвичу+3, Обновлено 5 часов назад
Оригинал статьи на сайте Reuters
22 ноября (Reuters) - За четыре дня до ухода генерального директора OpenAI Сэма Альтмана в ссылку, несколько исследователей написали письмо совету директоров, предупреждая о мощном открытии в области искусственного интеллекта, которое, по их словам, могло угрожать человечеству, сообщили два человека, знакомые с ситуацией.
Это ранее не сообщавшееся письмо и алгоритм ИИ были ключевыми событиями перед отстранением Альтмана от должности, который является лицом генеративного ИИ, сказали два источника. Перед его триумфальным возвращением во вторник вечером, более 700 сотрудников угрожали уволиться и присоединиться к Microsoft (MSFT.O) в знак солидарности с уволенным лидером.
Источники назвали письмо одним из факторов в более длинном списке претензий совета, приведших к увольнению Альтмана, среди которых были опасения по поводу коммерциализации достижений до понимания последствий. Reuters не удалось ознакомиться с копией письма. Сотрудники, написавшие письмо, не ответили на запросы о комментариях.
После обращения Reuters в OpenAI, которая отказалась комментировать, внутреннее сообщение сотрудникам признало проект под названием Q* и письмо совету перед событиями выходных, сообщил один из людей. Представитель OpenAI сообщил, что сообщение, отправленное многолетним руководителем компании Мирой Мурати, предупреждало сотрудников о некоторых публикациях в СМИ, не комментируя их достоверность.
Некоторые сотрудники OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поисках так называемого искусственного интеллекта общего назначения (AGI), сообщил один из них агентству Reuters. OpenAI определяет AGI как автономные системы, превосходящие человека в решении наиболее экономически ценных задач.
При наличии огромных вычислительных ресурсов новая модель способна решать некоторые математические задачи, сказал собеседник на условиях анонимности, поскольку он не имел права говорить от имени компании. По словам собеседника, несмотря на то, что по математике Q* находится на уровне учеников начальной школы, ее успешное прохождение таких тестов вселяет оптимизм в исследователей.
Reuters не смогла независимо проверить заявленные исследователями возможности Q*.
'ЗАВЕСА НЕВЕДЕНИЯ'
Исследователи считают математику передовым направлением развития генеративного ИИ. В настоящее время генеративный ИИ хорошо справляется с письмом и переводом языка, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться. Но завоевание способности решать математические задачи, где есть только один правильный ответ, предполагает, что ИИ будет обладать большей способностью к рассуждению, напоминающей человеческий интеллект. Это может быть применено, например, к новым научным исследованиям, считают исследователи ИИ.
В отличие от калькулятора, который может решать ограниченное количество операций, искусственный общий интеллект (ИОИ) может обобщать, учиться и понимать.
В своем письме совету директоров исследователи указали на мастерство и потенциальную опасность ИИ, сказали источники, не уточнив конкретных проблем безопасности, отмеченных в письме. Долгое время среди компьютерных ученых шли дискуссии об опасности, которую представляют высокоинтеллектуальные машины, например, если они могут решить, что уничтожение человечества будет в их интересах.
Исследователи также указали на работу команды "AI scientist", существование которой подтвердили несколько источников. Группа, созданная путем объединения ранее существовавших команд "Code Gen" и "Math Gen", исследовала, как оптимизировать существующие модели ИИ для улучшения их рассуждений и в конечном итоге выполнения научной работы, сказал один из людей.
Альтман возглавил работу по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлек инвестиции - и вычислительные ресурсы - необходимые Microsoft для приближения к AGI.
Помимо того, что в этом месяце Альтман объявил о множестве новых инструментов в ходе демонстрации, на прошлой неделе на саммите мировых лидеров в Сан-Франциско он заявил, что, по его мнению, не за горами значительные успехи.
"За всю историю OpenAI мне уже четыре раза (последний раз - буквально в последние пару недель) доводилось присутствовать в комнате, когда мы как бы отодвигали завесу невежества и продвигали вперед границы открытий, и возможность сделать это - профессиональная честь всей жизни", - сказал он на саммите Азиатско-Тихоокеанского экономического сотрудничества.
Через день совет директоров уволил Альтмана.
Анна Тонг и Джеффри Дастин в Сан-Франциско и Кристал Ху в Нью-Йорке; Редакторы Кеннет Ли и Лиза Шумейкер
Анна Тонг - Thomson Reuters
Анна Тонг - корреспондент агентства Reuters, работающий в Сан-Франциско и пишущий о технологической отрасли. Она пришла в Reuters в 2023 году после работы в газете San Francisco Standard в качестве редактора данных. Ранее Тонг работала в технологических стартапах в качестве менеджера по продуктам, а также в компании Google, где занималась аналитикой пользователей и помогала руководить колл-центром. Тонг окончила Гарвардский университет. Контакт:4152373211
Джеффри Дастин - Thomson Reuters
Джеффри Дастин - корреспондент агентства Reuters, работающий в Сан-Франциско, где он пишет о технологической индустрии и искусственном интеллекте. Он начал работать в Reuters в 2014 г. и первоначально писал об авиакомпаниях и путешествиях в нью-йоркском бюро. Дастин окончил Йельский университет по специальности "история". Он входил в состав группы, изучавшей лоббистскую деятельность компании Amazon.com по всему миру, за что в 2022 г. получил премию SOPA.
Кристал Ху - Thomson Reuters
Кристал пишет для агентства Reuters о венчурном капитале и стартапах. Она освещает события в Кремниевой долине и за ее пределами через призму денег и характеров, уделяя особое внимание стартапам на стадии роста, технологическим инвестициям и искусственному интеллекту. Ранее она освещала для Reuters сделки слияния и поглощения, рассказывая о SPAC Трампа и финансировании Twitter Элона Маска. Ранее она освещала деятельность компании Amazon для Yahoo Finance, а ее расследование практики розничной торговли компании было процитировано законодателями в Конгрессе. Кристал начала свою журналистскую карьеру с написания статей о технологиях и политике в Китае. Она получила степень магистра в Нью-Йоркском университете и любит съесть шарик мороженого Matcha не меньше, чем получить шарик на работе.
Наши стандарты: Принципы доверия Thomson Reuters.
Перевел Pavel Valentov
Telegram: @PavelValentov