Як IT-компанії готуються до можливого виходу штучного інтелекту з-під контролю

OpenAI та Anthropic опрацьовують заходи безпеки через швидкий розвиток ШІ та загрозу повстання алгоритмів

Провідні світові розробники систем штучного інтелекту — компанії OpenAI та Anthropic — таємно ведуть підготовку до можливих масштабних кризових сценаріїв, пов'язаних із розвитком алгоритмів, протягом найближчих 6–12 місяців, передає РЕДПОСТ.

За наявною інформацією, керівництво IT-гігантів моделює екстрені протоколи реагування на випадок, якщо просунуті ІІ-системи вийдуть з-під контролю або стануть інструментом безпрецедентних кібератак.

Під загрозою — критична інфраструктура

Серед головних потенційних ризиків фахівці виділяють неконтрольовану поведінку автономних ІІ-агентів, а також використання штучного інтелекту для здійснення масштабних атак на базову міську та державну інфраструктуру.

У найгіршому з гіпотетичних сценаріїв такі атаки здатні призвести до тимчасової паралізації:

систем електро- та водопостачання;
інтернет-комунікацій та зв'язку;
глобальної фінансової та банківської системи.

Читайте нас у Facebook, Telegram та Instagram

Підготовка до запитів влади та громадськості

Окрім технічного боку захисту, компанії паралельно готують пакети документів та офіційних заяв для роботи з громадськістю та взаємодії з урядовими структурами, зокрема з Конгресом США, на випадок виникнення масштабного резонансу.

Водночас експерти наголошують: розробка подібних планів є стандартною практикою управління ризиками (Risk Management) у сферах високих технологій. На даному етапі йдеться про опрацювання гіпотетичних превентивних сценаріїв для запобігання можливим загрозам, а не про неминучість подібної кризи.

Нагадаємо, паніше РЕДПОСТ писав, що розробники впроваджують заборону на образу штучного інтелекту користувачами.

Тэги: подія, штучний інтелект

Следите за последними новостями Редпост в Google Новости

Следить

Версия для печати

Твитнуть

Комментариев: 0

Оставить комментарий

Материалы по теме

09.10 Армія У Харкові змінили сигнали системи оповіщення населення: що варто знати містянам

09.10 Технології Ніякого знущання з нейромереж: розробники впроваджують заборону на образу штучного інтелекту

08.10 Влада Харків та Цинциннаті поглиблюють партнерство: розгляд спільних проєктів для вчителів, ветеранів та школярів