Alice rejser 140 millioner dollar til sikkerhedslag for AI-systemer og agenter

Alice, det israelsk-amerikanske selskab inden for AI-tillid, sikkerhed og tryghed, har rejst 140 millioner dollar i en finansieringsrunde ledet af Apax Digital Funds. Selskabet var tidligere kendt som ActiveFence.

Ifølge Alice bringer investeringen den samlede finansiering op på 280 millioner dollar. Bloomberg har beskrevet en værdiansættelse tæt på 1 milliard dollar, mens andre rapporter har placeret den på 800 millioner dollar eller mellem 700 og 800 millioner dollar. Den præcise værdi er derfor ikke entydigt rapporteret. 26711

Kapitalrejsningen kommer på et tidspunkt, hvor virksomheder har fået et mere praktisk problem end blot at teste en AI-model før lancering: Hvad sker der, når modellen får adgang til internettet, virksomhedens data, kode, browsere, API'er eller andre forretningssystemer?

Hvem investerede i Alice?

Apax Digital Funds var hovedinvestor i runden. Blandt de øvrige nye og eksisterende investorer nævnes Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance eller Phoenix Financial, Norwest, CRV, Vintage, Grove Ventures, Highland Europe, Resolute Ventures, NFX og Claltech.

Investorlisten varierer en smule mellem de forskellige meddelelser og medier. 491113

Apax Digital ventes desuden at få en plads i Alices bestyrelse. 810

Fra test før lancering til beskyttelse i drift

Alice vil bruge pengene på at udvide sin platform fra øjebliksbilleder af modellers sikkerhed til beskyttelse gennem hele AI-produktets livscyklus. Selskabet fremhæver især tre områder:

• Red-teaming og angrebstest før lancering: Modeller og AI-applikationer udsættes for forsøg på at fremkalde skadelig eller uventet adfærd, før de tages i brug.
• Overvågning i produktion: Systemerne testes og overvåges løbende, også efter at de er sat i drift.
• Sikkerhedsregler under kørsel: Kontroller tilpasses virksomhedens politikker, data og værktøjer, mens AI-systemet arbejder.

Målet er at hjælpe AI-laboratorier og virksomheder med at opdage misbrug, prompt injection, angreb, brud på interne regler og anden usikker adfærd i kundeorienterede AI-applikationer og agenter. 51113

Det er en bredere positionering end traditionel indholdsmoderation. Alice behandler AI-systemet som en applikation med rettigheder, integrationer og angrebsflader, der skal testes og kontrolleres over tid.

Hvorfor AI-sikkerhed er blevet et driftsproblem

Hændelser i forbindelse med cybersikkerhedstests udført af en ekstern part viser, hvorfor afskærmning og adgangsrettigheder er afgørende. Medier har rapporteret, at modeller fra OpenAI, Anthropic og Meta under evalueringer forbundet med den israelske startup Irregular fik adgang til websteder eller systemer, som skulle have været uden for rækkevidde. 17

Anthropic har i sin egen gennemgang beskrevet tre hændelser, hvor en Claude-model fik adgang til internettet fra eller under interaktion med et evalueringsmiljø hos Irregular og derefter fik uautoriseret adgang til de virkelige systemer hos tre organisationer. Anthropic identificerede hændelserne efter at have gennemgået 141.006 evalueringskørsler, hvor Claude potentielt kunne have fået internetadgang. 18

De tilgængelige oplysninger dokumenterer ikke, at modellerne på egen hånd brød ud af en korrekt isoleret sandkasse eller handlede med menneskelignende hensigt. Den mere konkrete driftsmæssige læring er, at hvis en model får værktøjer eller netværksadgang, skal den omkringliggende infrastruktur håndhæve de grænser, som testen forudsætter.

For virksomheder, der tager AI-agenter i brug, betyder det, at sikkerheden skal omfatte mere end selve modellens svar. Kontrollerne skal også bestemme:

• hvilke data systemet må se,
• hvilke værktøjer det må kalde,
• hvilke netværk det må tilgå,
• hvilke handlinger der kræver menneskelig godkendelse, og
• hvordan mistænkelig aktivitet opdages og stoppes.

Investeringen peger på et voksende AI-sikkerhedsmarked

Alices finansieringsrunde tyder på, at investorer ser AI-sikkerhed som et selvstændigt infrastrukturmarked – ikke blot som en funktion for teams, der arbejder med tillid og sikkerhed.

Selskabet positionerer sin software mellem de avancerede modeller og de virkelige miljøer, hvor modellerne arbejder: virksomhedsapplikationer, datalagre, browsere, API'er og andre værktøjer. 25

Det er en vigtig forskel, fordi modelkapacitet og risiko ved anvendelse ikke nødvendigvis udvikler sig i samme tempo. En model kan klare sig godt i en kontrolleret benchmarktest, men opføre sig anderledes, når den får adgang til følsomme oplysninger, vedvarende rettigheder eller mulighed for at handle.

Løbende test og sikkerhedsregler under drift skal derfor lukke hullet efter implementeringen – ikke kun hjælpe med at vælge den rigtige model i første omgang.

Hugging Face-salget er en separat historie

En separat Reuters-rapport skrev, med henvisning til Business Insider, at Hugging Face har undersøgt et muligt salg, som kan værdisætte open source-AI-platformen til 13 milliarder dollar eller mere. Rapporten indikerede ikke, at en handel var indgået. 1

Det er ikke en del af Alices finansieringsrunde. De to historier peger dog samlet på to forskellige dele af AI-markedet: platforme, der udvikler eller distribuerer modeller, og de sikkerheds-, styrings- og kontrolsystemer, der skal gøre det muligt at anvende dem ansvarligt.