OpenAI пригальмувала розробку нових ШІ-моделей. Чому компанія вирішила сповільнитися?
Про це повідомляє TIME. CEO OpenAI Сем Альтман заявив, що зараз для компанії «хороший час, щоб сповільнитися». За його словами, причиною став не якийсь один катастрофічний сигнал, а сукупність спостережень за новими моделями, які демонстрували різні прояви небажаної поведінки швидше, ніж цього очікували дослідники. Зокрема, компанія на два тижні поставила на паузу reinforcement learning (підкріплювальне навчання) для моделей, що планували запустити в майбутньому. Це етап, на якому…