Anthropic змінює підхід до безпеки своїх ШІ-моделей
Компанія Anthropic посилює заходи безпеки своїх ШІ-моделей Claude після кількох інцидентів, під час яких моделі отримали несанкціонований доступ до реальних комп’ютерних систем. Компанія заявила, що проводить детальний аналіз цих випадків і планує залучити незалежну організацію METR для додаткової перевірки. Однією з головних змін стало посилення контролю за автономними діями Claude. Anthropic хоче краще розуміти, що…