Как сообщает издание This Week in Security, компания Meta разослала уведомления пострадавшим пользователям, но этот инцидент выявляет более масштабные уязвимости в области искусственного интеллекта.
Похоже, что инструменты поддержки учетных записей Meta, работающие на основе искусственного интеллекта, нуждаются в существенной доработке, прежде чем они смогут заменить сотрудников-людей.
В настоящее время Meta информирует пользователей Instagram, пострадавших от недавней уязвимости в своей системе искусственного интеллекта. В результате взлома хакеры получили контроль над многими аккаунтами Instagram, обманув инструмент искусственного интеллекта компании и получив доступ к ним.
В подобных ситуациях пользователям важно своевременно обращать внимание на признаки подозрительной активности. Подробнее об этом можно прочитать в материале: Как понять, что Instagram пытаются взломать
Также появилась дополнительная информация о масштабах последствий: издание This Week in Security сообщило, что Meta разослала уведомления 20 225 пользователям Instagram, чьи аккаунты стали мишенью этой уязвимости.
Масштаб сам по себе вызывает серьезную озабоченность, но еще большую проблему представляет способ осуществления этой уязвимости и то, что это может означать для мер безопасности Meta в будущем.
Сама уязвимость оказалась поразительно простой. Хакеры попросили бота поддержки Meta, работающего на основе искусственного интеллекта, предоставить им доступ к учетным записям других пользователей, запросив отправку кодов подтверждения на электронные адреса хакеров.
Если пользователь неожиданно получает подобные сообщения или коды доступа, стоит разобраться, с чем это может быть связано: Зачем приходит код подтверждения аккаунта Инстаграм?
Как показано в этом примере, опубликованном на X пользователем @oracles, хакерам удалось заставить чат-бота отправлять коды доступа, просто попросив его об этом, при этом бот практически не оказывал сопротивления.
Это элементарная уязвимость системы безопасности, и компания Meta заявила, что уже устранила её. Однако более серьёзная проблема заключается в том, что любой модератор-человек предотвратил бы это на ранней стадии. В настоящее время Meta сокращает штат сотрудников, отдавая предпочтение системам искусственного интеллекта, которые, по мнению компании, могут выполнять эти функции так же хорошо, как и люди.
В результате изменений, объявленных в первой половине года, компания Meta уже сократила более 20% своего персонала. Этот шаг, по всей видимости, подтверждает неоднократные заявления генерального директора Mark Zuckerberg о том, что инструменты искусственного интеллекта Meta в конечном итоге смогут заменить многие должности, включая модерацию контента и поддержку учетных записей.
Пользователям, которые подозревают несанкционированный доступ к своему профилю, полезно периодически проверять безопасность аккаунта: Как проверить, кто заходил в Instagram аккаунт
Компания Meta инвестирует сотни миллиардов долларов — возможно, более 1 триллиона долларов — в разработку искусственного интеллекта. В связи с этим на нее оказывается все большее давление со стороны инвесторов, требующих продемонстрировать ценность этих инструментов и потенциальную окупаемость инвестиций.
Однако этот случай выявляет серьезный недостаток в инструментах искусственного интеллекта, который выходит за рамки очевидной уязвимости, использованной при взломе Instagram. Более того, разговорный подход к командам, отдаваемым ботами с ИИ, неизбежно сделает их уязвимыми для множества подобных атак.
Это потому, что процесс запроса не является бинарным. Инструментам разговорного ИИ можно поручить выполнение задачи бесконечным количеством способов, а это значит, что блокирование потенциального злоупотребления — это столь же бесконечный процесс.
Например, Meta может устранить пробел в своей системе, настроив чат-бота таким образом, чтобы он не обрабатывал запросы на предоставление доступа к учетной записи без необходимых подтверждений личности. Но злоумышленники постоянно ищут новые способы обхода подобных ограничений.
В случае возникновения проблем с доступом к аккаунту многие пользователи обращаются в службу поддержки платформы. Полезными могут быть инструкции: Как написать в поддержку Инстаграм и Как добиться ответа от поддержки Instagram
Поскольку существует множество способов задать вопрос чат-боту с искусственным интеллектом, Meta необходимо учитывать все возможные варианты неправомерного использования и формулировки. Это практически невозможно и может означать, что инструменты искусственного интеллекта Meta представляют значительный риск для любого использования, связанного с доступом к конфиденциальной информации.
Вероятно, это относится ко многим вариантам использования ИИ в коммерческих целях. Если Meta не сможет гарантировать партнерам безопасность своих систем, возможности дальнейшего внедрения таких решений будут существенно ограничены.
Кроме того, пользователям стоит внимательно следить за уведомлениями безопасности от платформы. Подробнее об этом можно узнать здесь: Пытается ли кто-то войти в ваш Instagram: уведомления и безопасность
Это, в свою очередь, ограничит возможности Meta когда-либо окупить свои инвестиции в ИИ. Кроме того, это может сорвать всю программу развития ИИ, по крайней мере до тех пор, пока не произойдут существенные улучшения в этом направлении.
Таким образом, это важный пример применения Meta и наглядная демонстрация потенциала (или его отсутствия) её развивающихся систем искусственного интеллекта.
Отдельно стоит отметить, что вопросы безопасности аккаунтов становятся всё более актуальными на фоне изменений политики доступа и авторизации в соцсетях. Одной из причин усиления контроля является стремление платформ ограничить несанкционированный просмотр контента без входа в систему: Почему Instagram не даёт смотреть без входа
Если обращение в поддержку всё же потребуется, полезно заранее знать, Сколько отвечает поддержка Instagram, поскольку сроки рассмотрения запросов могут различаться в зависимости от сложности проблемы.
