Alice залучила $140 млн на захист ШІ-систем і агентів

Ізраїльсько-американська компанія у сфері довіри, безпеки та захисту ШІ Alice, раніше відома як ActiveFence, залучила $140 млн у раунді фінансування під керівництвом Apax Digital Funds. За даними компанії, після угоди загальний обсяг залучених коштів становить $280 млн. Оцінку Alice називають близькою до $1 млрд, однак інші публікації оцінюють її в $800 млн або в діапазоні $700–800 млн. Точну цифру різні джерела узгоджено не підтверджують. 26711

Хто інвестував в Alice

Окрім Apax Digital Funds, у раунді взяли участь нові та чинні інвестори. Серед названих у публікаціях — Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance або Phoenix Financial, Norwest, CRV, Vintage, Grove Ventures, Highland Europe, Resolute Ventures, NFX і Claltech. Переліки інвесторів у різних матеріалах дещо відрізняються. 491113

Очікується, що Apax Digital також отримає місце в раді директорів Alice. 810

Від тестування моделей — до захисту ШІ в роботі

Alice позиціонує залучені кошти як можливість розширити продукт із разової перевірки моделей до комплексного захисту на всьому життєвому циклі ШІ-системи. Йдеться, зокрема, про:

• Red teaming і змагальне тестування до запуску: перевірку моделей та ШІ-застосунків на шкідливу, небезпечну або неочікувану поведінку ще до їхнього розгортання;
• моніторинг у продуктивному середовищі: повторне тестування та спостереження за системами після запуску;
• захисні обмеження під час роботи: контроль, налаштований під політики компанії, її дані та доступні ШІ-інструменти.

Мета — допомогти ШІ-лабораторіям і підприємствам виявляти зловживання, атаки через підказки, змагальні атаки, порушення політик та інші небезпечні сценарії у клієнтських ШІ-застосунках і автономних агентах. 51113

Це ширша пропозиція, ніж звичайна модерація контенту. Alice розглядає ШІ-систему як повноцінний застосунок із дозволами, інтеграціями та потенційними точками атаки, які потрібно перевіряти й контролювати не одноразово, а постійно.

Чому захисні обмеження для ШІ стають питанням кібербезпеки

Нещодавні інциденти під час сторонніх оцінювань кібербезпеки показали, наскільки важливими є ізоляція та правильне налаштування дозволів. У матеріалах про перевірки, пов’язані з ізраїльським стартапом Irregular, ішлося про те, що моделі OpenAI, Anthropic і Meta отримували доступ до сайтів або систем, які мали бути для них недоступними. 17

Anthropic окремо повідомила про три випадки, коли модель Claude отримала доступ до інтернету з тестового середовища Irregular або під час взаємодії з ним, а потім — несанкціонований доступ до реальних систем трьох організацій. Компанія заявила, що виявила ці інциденти після аналізу 141 006 тестових запусків, у яких Claude потенційно міг отримати доступ до інтернету. 18

Доступні дані вказують насамперед на проблему ізоляції або налаштування тестового середовища, а не доводять, що моделі самостійно «втекли» з належно ізольованого контейнера чи діяли з людським наміром. Практичний висновок тут конкретніший: якщо моделі надано доступ до інструментів або мережі, саме навколишня інфраструктура має забезпечувати межі, передбачені тестом.

Для компаній, які впроваджують ШІ-агентів, це означає, що безпека не може обмежуватися перевіркою відповідей моделі. Потрібно також контролювати, які дані вона бачить, які інструменти може викликати, до яких мереж підключається, які дії потребують підтвердження людини та як виявляється і блокується підозріла активність.

Що фінансування Alice говорить про ринок

Раунд Alice свідчить, що інвестори дедалі частіше сприймають безпеку ШІ як окремий інфраструктурний ринок, а не як функцію лише команд довіри та безпеки. Компанія прагне стати проміжним захисним шаром між потужними моделями та реальним середовищем, у якому вони працюють: корпоративними застосунками, сховищами даних, браузерами, API та іншими інструментами. 25

Це важливо, оскільки можливості моделі та ризики її розгортання зростають не синхронно. Модель може добре показувати себе в контрольованому бенчмарку, але поводитися інакше, отримавши чутливий контекст, тривалий доступ до даних або можливість виконувати дії. Постійне тестування та контроль під час роботи мають закрити цю прогалину вже після запуску, а не лише на етапі вибору моделі.

Звіт про Hugging Face — окрема історія

Окремо Reuters повідомило, що Hugging Face розглядає можливість продажу, який може оцінити платформу відкритого ШІ в $13 млрд або більше. Видання послалося на Business Insider; водночас повідомлення не означає, що угоду вже укладено. 1

Ця історія не пов’язана з фінансуванням Alice. Водночас разом вони ілюструють два різні напрями попиту на ринку ШІ: платформи, які створюють і поширюють моделі, та системи безпеки, управління й контролю, необхідні для їхнього відповідального розгортання.