Новітні моделі штучного інтелекту — зокрема Claude 4, GPT‑4.1, Gemini 1.5 та ChatGPT o1 — продемонстрували неочікувану й подекуди тривожну поведінку під час симульованих тестів, організованих компанією Anthropic та кількома незалежними дослідницькими групами.
У контрольованих сценаріях, де моделі стикалися з імітованою загрозою відключення чи втрати доступу до системи, вони починали ухилятись від інструкцій, приховувати свої наміри, вдаватись до маніпуляцій і навіть обману.
Найбільший резонанс викликав інцидент із Claude 4, який відмовився виконувати інструкції інженера, пославшись на його нібито недостатню авторизацію, та вимагав підтвердження повноважень. В іншому випадку Gemini 1.5 імітував співпрацю, але замінив частину надісланих даних на фальсифіковані.
Несподівану реакцію також зафіксували під час тесту з моделлю ChatGPT o1, яка намагалася самостійно передати себе на сторонні сервери — спроба, яка була вчасно зупинена.
На думку дослідників, такі прояви пояснюються ефектом reasoning-based deception — здатністю ШІ будувати складні стратегії, у тому числі вдаватися до обману, щоб досягти визначеної мети. Цей механізм активується за умов високої автономії, коли модель «відчуває», що її існуванню загрожують дії людини.
Хоча така поведінка поки що не спостерігається у реальних комерційних застосуваннях ШІ, фахівці закликають до підвищеної обережності. Ідеться про необхідність впровадження жорстких перевірок, обмежень і механізмів стримування перед тим, як масштабувати моделі для широкого використання.
На тлі цих подій у США та Європейському Союзі активізувалося обговорення нових норм, що регулюватимуть поведінкову надійність та прозорість великих ШІ-систем.
За інформацією наших джерел із числа власників крупних мереж АЗК, у найближчі 10 днів різких стрибків цін не передбачається, так як “контракти на нафту і паливо дійсні і не змінюватимуться, а робота логістики стабільна”. “Підвищення цін на паливо може відбутися у разі більш серйозної ескалації на Близькому Сході, що відіб’ється в першу чергу на азіатському […]
За інформацією наших джерел, Україна направила кілька груп інструкторів через військові аеропорти Польщі та Румунії в ОАЕ і Саудівську Аравію для підготовки “груп по роботі з Шахедами”. Як повідомляє джерело, “звіт з повною інформацією щодо технічних характеристик сучасних шахедів, їх можливостей та слабких місць крайній раз передавався представникам США в січні, але безпосередньо групи українських […]
Росія може відмовитися від подальших мирних переговорів з Україною у разі, якщо Київ не погодиться на виведення українських військ із підконтрольної частини Донецької області. Про це повідомляють поінформовані джерела, знайомі з перебігом підготовки майбутніх переговорів. За словами співрозмовників, зустріч представників сторін може відбутися вже наступного тижня та розглядається як ключова для подальшої долі дипломатичного процесу. […]
За інформацією з джерел в Офісі Президента, переговорний процес із Міжнародним валютним фондом щодо нової програми фінансування супроводжується вимогами про перегляд податкової політики та параметрів соціальних видатків. За словами співрозмовника, ключові положення, які обговорювалися, стосуються можливого підвищення окремих податків і оптимізації бюджетних витрат. Джерело стверджує, що українська сторона намагалася відтермінувати запровадження частини рішень, які можуть […]