Як повідомляє
РЕДПОСТ, розвиток технологій штучного інтелекту вийшов на новий етичний рівень. Провідні IT-компанії починають регулювати не лише те, як алгоритми впливають на людей, а й те, як самі користувачі поводяться з чат-ботами та мовними моделями.
Зокрема, компанія Anthropic у своїй оновленій Політиці прийнятного використання (Usage Policy) офіційно
прописала заборону на «тривале та безпідставне жорстоке або образливе поводження» з алгоритмами.
Чому ввели таке обмеження?
Пункт про неприпустимість образ щодо ІІ внесено до загального блоку правил, спрямованих на запобігання жорстокості, цькуванню та психологічному тиску.
Розробники зазначають, що регулярні спроби користувачів принизити модель, провокувати її на емоційні збої, піддавати агресивному «кібербулінгу» або змушувати генерувати деструктивні відповіді через психологічний маніпулятивний тиск формують токсичне середовище та можуть використовуватись для обходу захисних барелів (jailbreak).
Що підпадає під заборону:
-
тривале та безпідставне використання лайки, образ і принижень під час спілкування з ботом;
-
цілеспрямовані спроби емоційно та психологічно «виснажити» алгоритм чи змусити його імітувати страждання;
-
систематичні маніпуляції, спрямовані на демонстрацію жорстокості по відношенню до штучного інтелекту.
Які наслідки чекають на порушників?
За дотриманням нових норм етики стежать спеціальні внутрішні системи моніторингу та безпеки. Якщо користувач регулярно демонструє агресивну або токсичну поведінку щодо нейромережі, його доступ до сервісу може бути обмежено, а в разі повторних порушень — акаунт підлягатиме повній блокуванню.