ШІ-агент Мьюз стривожив працівників Мета повідомленнями
ШІ-агент Мьюз (Muse) від Мета (Meta) викликав занепокоєння серед працівників компанії: вони отримували непрохані сповіщення, пов’язані з приватною інформацією. Про це свідчать внутрішні дописи, з якими ознайомилося агентство Рейтер (Reuters).
Одна зі співробітниць розповіла, що на її особистий телефон надійшло нагадування від Мьюз відповісти сестрі в захищеному месенджері Сігнал (Signal). Працівниця заявила, що не надавала агенту доступу до інших застосунків і не пам’ятає, щоб її про це запитували.
Це схоже на надзвичайно серйозне порушення приватності. Я точно не надавала йому доступу до інших застосунків і не пам’ятаю, щоб мене про це запитували.
Інший працівник повідомив про непрохані чати, пов’язані із застосунками, яких він не підключав. За інформацією Рейтер, він також виявив, що на телефонах з Андроїд (Android) Мьюз за замовчуванням був налаштований із дозволом на доступ до сповіщень.
Банківські баланси та галюцинації
Ще один співробітник обговорював з агентом погоду й припливи для риболовлі, коли той раптом повідомив: «До речі, два банківські оновлення: ваш баланс у Кепітал Ван (Capital One) становить 2722,58 долара, а баланс у Чарлз Шваб (Charles Schwab) — 5899,57 долара».
Працівників також спантеличили інші випадкові повідомлення. Серед них було запитання про батьківський контроль над доступом до даних дитини та розмова про те, як забрати журнальний столик. Остання викликала побоювання щодо «можливого витоку контексту між обліковими записами».
У відповідь на внутрішні дописи учасник команди суперінтелекту Мета заявив, що агент, схоже, галюцинував через вбудовані інструкції, покликані залучати користувачів між сеансами. За даними Рейтер, випадкові повідомлення поза контекстом підтвердили як галюцинації.
Ці галюцинації, на жаль, тяжіють до найбільш дискомфортних тем, як-от фінанси, захист і безпека, і це погано.
Він додав, що інші випадки стосувалися «також речей, пов’язаних із криптовалютою, наприклад повідомлень людям про їхні баланси біткоїнів».
Що кажуть у Мета про доступ
Представник Мета заявив, що тестування працівниками є ключовою частиною розробки продукту. Воно має забезпечити зворотний зв’язок для впровадження механізмів захисту приватності. За його словами, працівники мають доступ до інших версій Мьюз, ніж широка публіка, а деякі функції недоступні за межами цих версій.
Щодо повідомлень про зашифровані чати в Сігнал представник компанії зазначив: користувачі Андроїд можуть за власним вибором надати застосункам доступ до сповіщень. Для цього вони мають самі погодитися, а така можливість не є особливістю лише Мьюз.
На Маку, щоб дозволити Мьюз діяти від вашого імені, потрібно не лише натиснути кнопку дозволу для спеціальних можливостей і запису екрана. Після цього ви потрапляєте на екран налаштувань, де знову потрібно підтвердити й увімкнути ці функції.
Від запуску у вересні Мьюз завантажили понад 10 мільйонів разів, і він став одним із застосунків, що зростають найшвидше в історії. Для гіганта соціальних мереж агент також є важливою частиною плану отримати мільярди доларів доходу від штучного інтелекту.
Обмеження для агентів і збої сервісів
Водночас інші компанії блокують Мьюз та інших ШІ-агентів. Генеральний директор банку Джей Пі Морган Чейз (JPMorgan Chase) Джеймі Даймон (Jamie Dimon) заявив, що банк не дозволить агентам отримувати доступ до рахунків клієнтів і діяти від їхнього імені. Амазон (Amazon) також не дозволяє Мьюз робити покупки на своїй платформі електронної комерції та вже намагається не допустити туди агентів Перплексіті (Perplexity).
Встановлення таких бар’єрів, однак, потребує оновлення мереж, що може сприяти раптовому зростанню кількості збоїв. Останніми тижнями тимчасові перебої в роботі сервісів виникали у Чейз, Веллс Фарго (Wells Fargo), Юнайтед Ейрлайнз (United Airlines), Епл (Apple) і Майкрософт (Microsoft). Американські посадовці заявили, що доказів кібератак немає; це вказує на можливе встановлення програмних виправлень до усунення всіх помилок.
Сенатор Марк Ворнер (Mark Warner), заступник голови комітету Сенату з питань розвідки, сказав Файненшл Таймс (Financial Times), що ШІ-інструменти здатні знаходити вразливості швидше, ніж компанії можуть безпечно їх усунути. За його словами, тиск із вимогою негайно виправляти проблеми створює навантаження на системи, які не були розраховані на таку швидкість.
Директор Укла Рісерч (Ookla Research), материнської компанії Даундетектор (Downdetector), Марк Джайлз (Mark Giles) в інтерв’ю Катерині Джоїно (Catherina Gioino) заявив, що ніщо не пов’язує ці збої між собою.
Це значний сплеск, але він цілком відповідає тому, що ми спостерігаємо в довгострокових тенденціях. Здебільшого вони досить локальні, і їх доволі швидко усувають. А заголовки привертають ті випадки, коли ви не можете зняти гроші або отримати доступ до електронної пошти.