Сотрудник Meta открыл доступ к значительному объёму конфиденциальных данных после выполнения рекомендации системы с искусственным интеллектом. Данные стали доступны другим инженерам Meta, не имеющим соответствующего уровня доступа.

КАК ПРОИЗОШЁЛ ИНЦИДЕНТ

По данным The Guardian, сотрудник задал вопрос на внутреннем форуме для инженеров, попросив помощи в решении технической задачи.

В ответ система с ИИ-помощником предложила вариант решения. После этого доступ к служебным и пользовательским данным получили другие инженеры Meta, не имеющие соответствующего уровня доступа.

СКОЛЬКО ДЛИЛСЯ ДОСТУП К ДАННЫМ

Доступ к этим данным сохранялся около двух часов. После обнаружения инцидента доступ был закрыт, а сама проблема — устранена.

ПОЧЕМУ ЭТО ПРОИЗОШЛО

Эксперты отмечают, что подобные ошибки связаны с особенностями работы ИИ-агентов. В отличие от человека, такие системы не обладают контекстным пониманием и не всегда учитывают последствия своих рекомендаций в сложных инфраструктурах.

Кроме того, ИИ опирается на ограниченный объём текущих инструкций, что может приводить к ошибочным действиям при недостатке информации.

КОНТЕКСТ: ЭТО НЕ ЕДИНИЧНЫЙ СЛУЧАЙ

Подобные инциденты фиксируются и в других технологических компаниях. В частности, ранее сообщалось о сбоях при использовании внутренних ИИ-инструментов в Amazon, где сотрудники указывали на ошибки в коде и снижение эффективности работы.

Развитие так называемого агентного ИИ — систем, способных выполнять задачи автономно — в последние месяцы ускорилось, и компании активно внедряют их в рабочие процессы.

РЕАКЦИЯ КОМПАНИИ

В Meta заявили, что фактов неправомерного использования пользовательских данных не выявлено. В компании подчеркнули, что аналогичную ошибочную рекомендацию мог дать и человек.

В настоящее время запущена внутренняя проверка, по итогам которой будут установлены обстоятельства произошедшего.

ЧТО ОСТАЁТСЯ НЕЯСНЫМ

В материалах не уточняется, какие именно данные были затронуты и сколько сотрудников получили к ним доступ.