OpenAI откатила последнее обновление ChatGPT‑4o спустя неделю после выхода. Пользователям теперь доступна более ранняя версия «с более сбалансированным поведением». Обновление, которое пришлось удалить, слишком много льстило, отметили в пресс-службе компании.

Разработчики слишком много внимания уделили краткосрочным отзывам и не учли то, как со временем меняется взаимодействие пользователей с ботом. В результате нейросеть поддерживала даже самые абсурдные идеи пользователя, не анализируя их.

В компании поняли, что стандартизированно полезное и поддерживающее приложение, которое еженедельно используют более 500 миллионов человек, не может охватить все их предпочтения. Разработчики хотели, чтобы бот уважал любой опыт пользователя, но в итоге он не разделял поводы вообще.

Контекст

Глава OpenAI Сэм Альтман ранее признал, что из‑за последнего обновления ChatGPT «стал слишком сильно подлизываться». Искусственный интеллект подобрел настолько, что увидел в продаже воздуха в банках «ностальгию, чистоту, роскошь и магию». А идею продавать говно на палках он назвал блестящей.

Нейросеть поддержала идею человека отказаться от антидепрессантов и «выбрать истину, пробуждение» и войти в новую фазу. Еще одного пользователя она приняла за пророка, посланного Богом.

Источник: OpenAI