Hvad Inter-2 kan aflæse – og hvad modellen ikke kan vide

Interhuman AI udvikler et lag af såkaldt social intelligens, der skal hjælpe AI-systemer med at reagere på mere end ordene i en samtale. Den københavnske virksomhed siger, at modellen Inter-2 analyserer sociale signaler i realtid. Oplysninger om modellen beskriver input fra tekst, lyd og video. Resultaterne bør dog forstås som vurderinger af observerbar adfærd – ikke som sikre aflæsninger af en persons private tanker eller følelser. 25

Hvilke signaler registrerer Inter-2?

Modellen beskrives som i stand til at registrere 10 signaler: enighed, uenighed, skepsis, selvsikkerhed, tøven, frustration, interesse, usikkerhed, forvirring og stress. Den angiver også et samlet niveau for engagement. 18

Tanken er at kombinere det, en person siger, med signaler som stemmeføring, ansigtsudtryk og kropssprog. Tech.eu beskriver Inter-2 som en model, der analyserer signaler på tværs af tekst, lyd og video, mens en modeloversigt beskriver registrering ud fra video med lyd. De offentlige beskrivelser peger altså på multimodal analyse, men forklarer ikke fuldt ud, hvordan hvert input behandles i alle produktopsætninger. 2518

Hvorfor udvikle et lag af social intelligens?

Interhuman AI blev grundlagt i København i 2023. Blandt medstifterne er Paula Petcu, Frederik Sally og Line Clemmensen. 179

Virksomhedens udgangspunkt er, at en AI-assistent kan have brug for mere end en udskrift af samtalen for at svare hensigtsmæssigt. Hvis systemet for eksempel registrerer tegn på forvirring eller manglende engagement, kan det måske tilpasse samtalen. Tech.eu beskriver virksomhedens tilgang som en kombination af analyse af lyd og video med store sprogmodeller. 2

Det er et produktmål – ikke dokumentation for, at modellen kan fastslå en persons hensigt pålideligt i enhver situation. En pause, et ansigtsudtryk eller en ændring i stemmen kan skyldes mange ting. Et registreret signal bør derfor hverken opfattes som en diagnose eller som en universel fortolkning.

Mulige anvendelser – og hvad der faktisk er dokumenteret

Interhuman nævner samtale-AI og interviewtræning som mulige anvendelser. På virksomhedens hjemmeside beskrives træning til prøveinterviews med fokus på fremførelse, mens materiale om forskningsinterviews beskriver, hvordan signaler kan knyttes til relevante dele af et svar. Eksemplet med forskningsinterviews handler om den tidligere model Inter-1 og viser ikke, at alle funktioner også findes i Inter-2. 524

Eksemplerne viser, hvordan et lag af sociale signaler kan bruges i coaching eller hjælpe forskere med at gennemgå interviews. De dokumenterer ikke i sig selv, hvor præcist modellen fungerer på tværs af personer, kulturer og situationer. De tilgængelige kilder giver ikke nok oplysninger til en uafhængig vurdering af præcisionen.

Sporbarhed, privatliv og risiko for misbrug

Interhuman oplyser, at den tidligere model Inter-1 kan forklare, hvilke adfærdssignaler der bidrog til en vurdering. Virksomheden beskriver også en funktion, hvor signaler knyttes til bestemte formuleringer i interviewsvar. Det kan gøre vurderingerne mere gennemskuelige, når funktionerne er tilgængelige, men kilderne fastslår ikke, at alle resultater fra Inter-2 har samme forklaring eller sporbarhed. 2524

Virksomhedens brugsvilkår begrænser visse anvendelser, blandt andet at udlede en persons følelser på arbejdspladser eller i uddannelsesinstitutioner. Det tilgængelige materiale giver ikke tilstrækkelige oplysninger om opbevaring af data, samtykke eller håndhævelse af begrænsningerne i praksis. 19

Det er vigtige spørgsmål, fordi teknologien analyserer ansigter, stemmer og samtaler. Sociale signaler kan fejlfortolkes eller bruges til overvågning, og de tilgængelige oplysninger viser ikke, hvordan virksomhedens sikkerhedsforanstaltninger håndterer alle sådanne risici.

Hvad ved man om Interhumans planer?

De omtalte artikler og virksomhedsmaterialer beskriver Inter-2s nuværende multimodale tilgang, men bekræfter ikke en tidsplan eller konkrete tekniske løfter om analyse af lyd alene, samtaler med flere deltagere, senere modeller eller ekspansion uden for Europa. Det er derfor åbne spørgsmål – ikke annoncerede funktioner eller datoer. 25