Вчені закликають зупинити розвиток ШІ, поки не пізно

Ймовірність загибелі людства через розвиток штучного інтелекту становить 95% — про це заявив колишній інженер Google Нейт Соарес. Він закликав людство негайно змінити напрямок руху, інакше уникнути катастрофи не вдасться. «Ми мчимо до прірви зі швидкістю 100 км/год», — сказав він.

Занепокоєння Соареса поділяють найвідоміші вчені та лідери галузі — зокрема, лауреат Нобелівської премії Джеффрі Гінтон, математик Йошуа Бенжіо, а також керівники OpenAI, Anthropic і Google DeepMind. Вони всі підписали публічну заяву, в якій наголошується, що «зменшення ризику зникнення людства через ШІ має бути глобальним пріоритетом — поряд із боротьбою з пандеміями та ядерною загрозою».

Як повідомляє The Times, основні побоювання стосуються розвитку так званого суперінтелектуального ШІ (ASI) — системи, яка здатна до складного планування, маніпуляцій, самостійного прийняття рішень і навіть обману. Такий ШІ може вийти з-під контролю, а його внутрішні механізми залишаться непрозорими для людини.

Деякі експерти вважають, що мова йде не лише про повне вимирання людства, а й про повільне витіснення людини з ключових процесів. У світі, де рішення прийматимуть машини, для людей може просто не залишитися місця.

Хоча це звучить як сценарій наукової фантастики, вчені наголошують: ризик цілком реальний і потребує серйозного осмислення вже зараз.

Схожі статті

Ціни на українських АЗС у найближчі 10 днів залишаться стабільними. Джерела

За інформацією наших джерел із числа власників крупних мереж АЗК, у найближчі 10 днів різких стрибків цін не передбачається, так як “контракти на нафту і паливо дійсні і не змінюватимуться, а робота логістики стабільна”. “Підвищення цін на паливо може відбутися у разі більш серйозної ескалації на Близькому Сході, що відіб’ється в першу чергу на азіатському […]

Україна направила групи інструкторів в ОАЕ та Саудівську Аравію для боротьби з шахедами. Джерела

За інформацією наших джерел, Україна направила кілька груп інструкторів через військові аеропорти Польщі та Румунії в ОАЕ і Саудівську Аравію для підготовки “груп по роботі з Шахедами”. Як повідомляє джерело, “звіт з повною інформацією щодо технічних характеристик сучасних шахедів, їх можливостей та слабких місць крайній раз передавався представникам США в січні, але безпосередньо групи українських […]

Переговори про припинення війни опинилися під загрозою через нові вимоги РФ

Росія може відмовитися від подальших мирних переговорів з Україною у разі, якщо Київ не погодиться на виведення українських військ із підконтрольної частини Донецької області. Про це повідомляють поінформовані джерела, знайомі з перебігом підготовки майбутніх переговорів. За словами співрозмовників, зустріч представників сторін може відбутися вже наступного тижня та розглядається як ключова для подальшої долі дипломатичного процесу. […]

МВФ висунув вимоги щодо податків і витрат — що відомо

За інформацією з джерел в Офісі Президента, переговорний процес із Міжнародним валютним фондом щодо нової програми фінансування супроводжується вимогами про перегляд податкової політики та параметрів соціальних видатків. За словами співрозмовника, ключові положення, які обговорювалися, стосуються можливого підвищення окремих податків і оптимізації бюджетних витрат. Джерело стверджує, що українська сторона намагалася відтермінувати запровадження частини рішень, які можуть […]