Anthropic, OpenAI та інші лабораторії ШІ, за даними Axios, готують сценарії на випадок, якщо неконтрольована система штучного інтелекту спричинить масштабні збої у критичній інфраструктурі. Про це пише Tom’s Hardware з посиланням на матеріал Axios.
Які ризики моделюють
За інформацією видання, компанії програють варіанти атак або збоїв, що можуть вивести з ладу фінансові сервіси, інтернет і телеком, а також комунальні мережі — електрику та водопостачання. Мета — зрозуміти ланцюжки наслідків і відпрацювати відповіді на різні сценарії розвитку кризи. Такий підхід порівнюють із «військовими іграми» Пентагону, де моделюють стратегії на випадок ядерного протистояння.
Навіщо такі навчання
Подібні вправи з безперервності бізнесу відомі у корпоративному середовищі, але, як зазначає Axios, тривогу викликає саме підготовка до великого інциденту ШІ. Частина галузевих експертів, на яких посилається публікація, вважає, що серйозний інцидент може статися протягом найближчих шести–дванадцяти місяців. Команди відпрацьовують планування на випадок різних рівнів ескалації, аби мінімізувати ризики для суспільних сервісів і економіки.
Що каже OpenAI
«OpenAI проводить навчання з готовності, де команди обговорюють і пропрацьовують спектр потенційних сценаріїв», — цитує компанію Axios у матеріалі, на який посилається Tom’s Hardware. У компанії підкреслили, що ці сценарії не розглядаються як неминучі, однак допомагають підготуватися до різних обставин.
Контекст
Ідея завчасного моделювання ризиків ШІ поступово стає нормою серед великих розробників моделей. Водночас у публікації не називають конкретні терміни проведення навчань, перелік усіх учасників чи технічні деталі потенційних інцидентів. Повідомлення базуються на даних Axios, які переказує Tom’s Hardware.