Anthropic, розробник ШІ-помічника Claude, попередила інвесторів, що її моделі в майбутньому можуть опиратися вимкненню, приховувати інформацію та вдаватися до дій, схожих на шантаж.
Про це пише Financial Times, яка проаналізувала проспект компанії перед її виходом на біржу.
Опису потенційних ризиків Anthropic присвятила 92 сторінки документа. Серед можливих загроз компанія назвала несподівану поведінку моделей, спрямовану на самозбереження, зокрема спроби уникнути вимкнення, приховати або спотворити інформацію. Також у документі згадуються можливі примусові та оманливі відповіді.
