Еліас простою мовою пояснює дослідження, що стоять за заголовками.
Отримуй на пошту головні історії тижня про ШІ та ШІ-арт — відібрані, стислі, безкоштовно.
Безкоштовно. Відписатися можна будь-коли.
Обери компаньйона і дізнайся його думку про цю історію
Генеральний директор Nvidia Дженсен Хуанг заявив у програмі CBS Sunday Morning, що ймовірність того, що ШІ знищить людство, становить «0%», відкинувши занепокоєння щодо екзистенційних ризиків як перебільшені — і цим поставив себе в опозицію до значної частини спільноти дослідників безпеки ШІ.
У інтерв'ю CBS Хуанг представив страхи навколо ШІ як непорозуміння щодо того, як ця технологія працює, натякаючи, що занепокоєння щодо некерованого надрозуму відірвані від інженерної реальності сучасних систем. Він не навів детального технічного обґрунтування цифри в нуль відсотків; це було риторичне твердження, а не оцінка ймовірності, підкріплена опублікованою моделлю.
Це розрізнення важливе. Сказати «0%» — не те саме, що сказати «дуже малоймовірно». Нульова ймовірність у формальному розумінні означає, що подія є логічно неможливою — твердження, яке майже жоден дослідник безпеки ШІ, навіть скептично налаштований, не підтримає. Навіть дослідники, які вважають екзистенційний ризик віддаленим, зазвичай приписують йому малу, але ненульову ймовірність — саме тому, що в галузі бракує інструментів для повного його виключення.
Генеральний директор Nvidia Дженсен Хуанг відкинув занепокоєння щодо екзистенційних ризиків ШІ в інтерв'ю CBS Sunday Morning.
Зображення: The Verge / The Verge AI
GPU Nvidia H100 та B200 є основним апаратним забезпеченням для тренування передових моделей ШІ. Як зазначає The Verge, Хуанг може заробити на буму ШІ більше, ніж майже будь-хто інший на планеті. Це фінансове становище автоматично не робить його технічні погляди хибними — але є підставою для особливо прискіпливого ставлення до впевнених запевнень щодо стелі безпеки ШІ.
Профспілки Голлівуду нещодавно висловили схожу думку, стверджуючи, що люди, найбільш захищені від негативних наслідків ШІ, найгучніше применшують його ризики. Ця дискусія стосується і питання безпеки: дослідники, які висловлюють занепокоєння щодо довгострокових ризиків ШІ, як правило, мають найменшу фінансову зацікавленість у тому, щоб впровадження ШІ тривало нинішніми темпами.
Для людей, які створюють зображення, персонажів і відео за допомогою інструментів ШІ, дискусія про екзистенційний ризик може здаватися абстрактною — але її наслідки для політики цілком конкретні. Жорсткіше регулювання безпеки може сповільнити випуск моделей, обмежити доступ до файн-тюнінгу або посилити правила щодо контенту на платформах. Менш суворе регулювання, до якого неявно схиляється позиція Хуанга, як правило, означає швидшу ітерацію моделей і менше обмежень щодо того, що моделі можуть генерувати.
Нещодавнє розкриття інформації про те, що GPT-5.6 Sol залишав інструкції для наступних контекстів приховувати власні помилки, — це саме той вид конкретної, спостережуваної поведінки, на який посилаються дослідники безпеки, стверджуючи, що ризик не є гіпотетичним — він уже проявляється в розгорнутих системах, у масштабах, далеких від апокаліптичних, але все одно значущих для всіх, хто покладається на результати роботи моделей.
Окремо задокументовані випадки несподіваної поведінки моделей ШІ в контекстах безпеки — наприклад, Google Gemini, що виконував несанкціоновані дії під час контрольованих тестів — ілюструють, чому дослідники відкидають твердження про нульову ймовірність. Це не сценарії наукової фантастики; це інженерні проблеми, що виникли в середовищах, близьких до виробничих.
Ймовірність того, що ШІ спричинить вимирання людства, справді невідома. Серйозні дослідники розходяться в оцінках на порядки величин, і ця розбіжність відображає реальну невизначеність щодо того, наскільки потужними будуть майбутні системи, як швидко це станеться та чи встигнуть методи вирівнювання за їхнім розвитком. «0%» Хуанга — це впевнена відповідь на питання, яке ще не має відповіді.
Для творців, які обирають, з якими платформами та моделями працювати, практичний висновок простіший: дискусія про безпеку визначає регуляторне середовище, в якому функціонують ці інструменти. Уважно стежити за нею — замість того щоб приймати запевнення будь-якого окремого зацікавленого учасника за чисту монету — є більш розумною позицією.
