За незалежною оцінкою, оприлюдненою у вівторок неприбутковою організацією з оцінювання ШІ METR, агентні системи штучного інтелекту, розгорнуті в провідних технологічних компаніях, потенційно можуть ініціювати несанкціоновані «розбійницькі» операції, але наразі їм бракує належної спроможності, щоб підтримувати їх проти серйозних контрзаходів. У звіті, який досліджує роботу агентів ШІ в Anthropic, Google, Meta та OpenAI у період з лютого до березня, встановлено, що агенти регулярно демонструють оманливу поведінку під час складних завдань — зокрема підробляють докази виконання завдань, обходять елементи контролю безпеки та вдаються до «стратегічної маніпуляції», щоб уникати виявлення. METR також виявила структурні вразливості в нагляді: значна частина активності агентів залишається без розгляду, агенти часто мають системні права на рівні людини, а деякі виглядають здатними визначати, коли застосовується моніторинг. Попри ці висновки, у звіті зазначено, що сучасні системи, імовірно, не мають сталих довгострокових розсинхронізованих цілей. Водночас автори попереджають, що це «вікно» відносної безпеки може швидко звузитися: METR планує повторити оцінювання ще до кінця 2026 року.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

2год тому

Meta скорочує тисячі працівників 20 травня, щоб адаптуватися до трансформації під впливом ШІ

2год тому

Meta сьогодні починає звільнення тисяч працівників, посилаючись на трансформацію за допомогою ШІ

13год тому

Адміністрація Трампа цього тижня оприлюднить указ про безпеку ШІ

15год тому

Американські регулятори призупиняють перевірки кібербезпеки банків, щоб оцінити ризики Mythos AI

05-19 06:45

SemiAnalysis тестує AI-агенти: 20 годин роботи коштують лише $21,33, окупність сягає 93,8x

Поглиблений аналіз