Як повідомляє видання This Week in Security, компанія Meta розіслала сповіщення постраждалим користувачам, але цей інцидент виявляє масштабніші вразливості в галузі штучного інтелекту.
Схоже, що інструменти підтримки облікових записів Meta, які працюють на основі штучного інтелекту, потребують суттєвого доопрацювання, перш ніж вони зможуть замінити співробітників-людей.
Наразі Meta інформує користувачів Instagram, які постраждали від нещодавньої вразливості в її системі штучного інтелекту. У результаті злому хакери отримали контроль над багатьма акаунтами Instagram, обманувши інструмент штучного інтелекту компанії та отримавши доступ до них.
У подібних ситуаціях користувачам важливо вчасно звертати увагу на ознаки підозрілої активності. Докладніше про це можна прочитати в матеріалі: Як зрозуміти, що Instagram намагаються зламати
Також з’явилася додаткова інформація про масштаби наслідків: видання This Week in Security повідомило, що Meta розіслала сповіщення 20 225 користувачам Instagram, чиї акаунти стали мішенню цієї вразливості.
Масштаб сам собою викликає серйозне занепокоєння, але ще більшою проблемою є спосіб здійснення цієї вразливості та те, що це може означати для заходів безпеки Meta в майбутньому.
Сама вразливість виявилася вражаюче простою. Хакери попросили бота підтримки Meta, який працює на основі штучного інтелекту, надати їм доступ до облікових записів інших користувачів, запросивши надсилання кодів підтвердження на електронні адреси хакерів.
Якщо користувач несподівано отримує подібні повідомлення або коди доступу, варто розібратися, з чим це може бути пов’язано: Навіщо приходить код підтвердження акаунта Instagram?
Як показано в цьому прикладі, опублікованому на X користувачем @oracles, хакерам вдалося змусити чат-бота надсилати коди доступу, просто попросивши його про це, при цьому бот практично не чинив опору.
Це елементарна вразливість системи безпеки, і компанія Meta заявила, що вже усунула її. Однак серйозніша проблема полягає в тому, що будь-який модератор-людина запобіг би цьому на ранній стадії. Наразі Meta скорочує штат співробітників, надаючи перевагу системам штучного інтелекту, які, на думку компанії, можуть виконувати ці функції так само добре, як і люди.
У результаті змін, оголошених у першій половині року, компанія Meta вже скоротила понад 20% свого персоналу. Цей крок, вочевидь, підтверджує неодноразові заяви генерального директора Марка Цукерберга про те, що інструменти штучного інтелекту Meta зрештою зможуть замінити багато посад, включно з модерацією контенту та підтримкою облікових записів.
Користувачам, які підозрюють несанкціонований доступ до свого профілю, корисно періодично перевіряти безпеку акаунта: Як перевірити, хто заходив в Instagram акаунт
Компанія Meta інвестує сотні мільярдів доларів – можливо, понад 1 трильйон доларів – у розробку штучного інтелекту. У зв’язку з цим на неї дедалі більше тиснуть інвестори, які вимагають продемонструвати цінність цих інструментів та потенційну окупність інвестицій.
Однак цей випадок виявляє серйозну ваду в інструментах штучного інтелекту, яка виходить за межі очевидної вразливості, використаної під час злому Instagram. Більше того, розмовний підхід до команд, які віддають боти з ШІ, неминуче зробить їх уразливими для безлічі подібних атак.
Це тому, що процес запиту не є бінарним. Інструментам розмовного ШІ можна доручити виконання завдання нескінченною кількістю способів, а це означає, що блокування потенційного зловживання – це настільки ж нескінченний процес.
Наприклад, Meta може усунути прогалину в своїй системі, налаштувавши чат-бота так, щоб він не обробляв запити на надання доступу до облікового запису без необхідних підтверджень особи. Але зловмисники постійно шукають нові способи обходу подібних обмежень.
У разі виникнення проблем з доступом до акаунта багато користувачів звертаються до служби підтримки платформи. Корисними можуть бути інструкції: Як написати в підтримку Instagram та Як дочекатися відповіді від підтримки Instagram
Оскільки існує безліч способів поставити запитання чат-боту зі штучним інтелектом, Meta необхідно враховувати всі можливі варіанти неправомірного використання та формулювання. Це практично неможливо і може означати, що інструменти штучного інтелекту Meta становлять значний ризик для будь-якого використання, пов’язаного з доступом до конфіденційної інформації.
Ймовірно, це стосується багатьох варіантів використання ШІ в комерційних цілях. Якщо Meta не зможе гарантувати партнерам безпеку своїх систем, можливості подальшого впровадження таких рішень будуть суттєво обмежені.
Крім того, користувачам варто уважно стежити за сповіщеннями безпеки від платформи. Докладніше про це можна дізнатися тут: Чи намагається хтось увійти у ваш Instagram: сповіщення та безпека
Це, своєю чергою, обмежить можливості Meta коли-небудь окупити свої інвестиції в ШІ. Крім того, це може зірвати всю програму розвитку ШІ, принаймні доти, доки не відбудуться суттєві покращення в цьому напрямку.
Таким чином, це важливий приклад застосування Meta та наочна демонстрація потенціалу (або його відсутності) її систем штучного інтелекту, що розвиваються.
Окремо варто зазначити, що питання безпеки акаунтів стають дедалі актуальнішими на тлі змін політики доступу та авторизації в соцмережах. Однією з причин посилення контролю є прагнення платформ обмежити несанкціонований перегляд контенту без входу в систему: Чому Instagram не дає дивитися без входу
Якщо звернення до підтримки все ж таки знадобиться, корисно заздалегідь знати, Скільки відповідає підтримка Instagram, оскільки терміни розгляду запитів можуть відрізнятися залежно від складності проблеми.
