Новость из раздела: Технології
URL новости: https://redpost.com.ua/news/1297743-yak-it-kompaniyi-gotuyutsya-do-mozhlivogo-vihodu-shtuchnogo-intelektu-z-pid-kontrolyu
URL новости: https://redpost.com.ua/news/1297743-yak-it-kompaniyi-gotuyutsya-do-mozhlivogo-vihodu-shtuchnogo-intelektu-z-pid-kontrolyu
Як IT-компанії готуються до можливого виходу штучного інтелекту з-під контролю
OpenAI та Anthropic опрацьовують заходи безпеки через швидкий розвиток ШІ та загрозу повстання алгоритмів
Провідні світові розробники систем штучного інтелекту — компанії OpenAI та Anthropic — таємно ведуть підготовку до можливих масштабних кризових сценаріїв, пов'язаних із розвитком алгоритмів, протягом найближчих 6–12 місяців, передає РЕДПОСТ.
За наявною інформацією, керівництво IT-гігантів моделює екстрені протоколи реагування на випадок, якщо просунуті ІІ-системи вийдуть з-під контролю або стануть інструментом безпрецедентних кібератак.
Під загрозою — критична інфраструктура
Серед головних потенційних ризиків фахівці виділяють неконтрольовану поведінку автономних ІІ-агентів, а також використання штучного інтелекту для здійснення масштабних атак на базову міську та державну інфраструктуру.
У найгіршому з гіпотетичних сценаріїв такі атаки здатні призвести до тимчасової паралізації:
- систем електро- та водопостачання;
- інтернет-комунікацій та зв'язку;
- глобальної фінансової та банківської системи.
Підготовка до запитів влади та громадськості
Окрім технічного боку захисту, компанії паралельно готують пакети документів та офіційних заяв для роботи з громадськістю та взаємодії з урядовими структурами, зокрема з Конгресом США, на випадок виникнення масштабного резонансу.
Водночас експерти наголошують: розробка подібних планів є стандартною практикою управління ризиками (Risk Management) у сферах високих технологій. На даному етапі йдеться про опрацювання гіпотетичних превентивних сценаріїв для запобігання можливим загрозам, а не про неминучість подібної кризи.
Нагадаємо, паніше РЕДПОСТ писав, що розробники впроваджують заборону на образу штучного інтелекту користувачами.