В прошлом месяце, после нескольких месяцев все более громких слухов, OpenAI выпустила o1, новую мощную большую языковую модель (Large Language Model, LLM), которая, в отличие от других моделей, призвана «размышлять», прежде чем генерировать ответ. Техническая идея здесь называется «цепочка размышлений», и концепция заключается в том, чтобы разбить запрос на ряд шагов, подход, который улучшает качество вывода.
o1, вопреки надуманному маркетинговому языку, написанному в самом интерфейсе, на самом деле не думает. Но это гораздо более мощная модель, чем те, которые OpenAI выпускал ранее; собственная системная карта OpenAI показала, что модель представляет собой «средний» риск убеждения и создания биологических угроз. Поэтому компания классифицировала модель как модель «среднего» риска – это самый высокий уровень, которого может достичь модель, но при этом, по мнению OpenAI, безопасная для применения.
Что произошло: Недавний опрос американских избирателей, проведенный Институтом политики искусственного интеллекта (AIPI), показал, что большинство избирателей обеспокоены этой моделью.
- 64 % избирателей, получив подробную информацию о возможностях o1, заявили, что o1 более мощная, чем те, на которые, по их мнению, способен ИИ в настоящее время; 64 % также считают, что независимым аудиторам следовало бы больше времени поработать с моделью до ее выпуска.
- 57 % избирателей считают, что внешние проверки моделей ИИ перед выпуском должны быть обязательными, а 53 % избирателей заявили, что они скорее обеспокоены, чем рады появлению o1 от OpenAI.
«Вопреки некоторым рассуждениям элиты о том, что ИИ слишком преувеличивают, данные нового опроса убедительно показывают, что широкая общественность испытывает страх, а не недоумение по поводу развития ИИ», – сказал в своем заявлении Дэниел Колсон, исполнительный директор AIPI.
