Inter-2 skal lese signalene bak ordene – men kan ikke vite hva folk egentlig tenker

Interhuman AI vil at kunstig intelligens skal kunne oppfatte mer enn ordene i en samtale. Det København-baserte selskapet utvikler et «sosialt intelligenslag» som skal hjelpe KI-systemer med å tolke signaler som stemmebruk, ansiktsuttrykk og kroppsspråk. Ifølge omtale analyserer selskapets nyeste modell, Inter-2, sosiale signaler i sanntid på tvers av tekst, lyd og video. 25

Det er viktig å skille mellom å registrere synlig eller hørbar atferd og å vite hva et menneske tenker eller føler. Modellens resultater bør forstås som vurderinger av signaler – ikke som sikre fasitsvar om en persons indre tilstand.

Ti signaler modellen skal oppdage

Inter-2 er oppgitt å registrere ti signaler: enighet, uenighet, skepsis, selvsikkerhet, nøling, frustrasjon, interesse, usikkerhet, forvirring og stress. Modellen rapporterer også en samlet vurdering av engasjement. 18

Tanken er å se ordene i sammenheng med hvordan de blir sagt, og med andre uttrykk i samtalen. Tech.eu omtaler analyse av tekst, lyd og video, mens en modelloversikt beskriver registrering av signaler fra video med lyd. De offentlige beskrivelsene peker dermed mot multimodal analyse, men forklarer ikke i detalj hvordan hver type informasjon brukes i alle produktoppsett. 2518

Et ekstra lag for KI-samtaler

Interhuman AI ble grunnlagt i København i 2023. Blant medgründerne er Paula Petcu, Frederik Sally og Line Clemmensen. 179

Selskapets idé er at en KI-assistent noen ganger trenger mer enn en utskrift av det som ble sagt. Hvis et system for eksempel registrerer tegn på forvirring eller manglende engasjement, kan det være mulig å tilpasse samtalen. Tech.eu beskriver tilnærmingen som en kombinasjon av språkmodeller og analyse av lyd og video. 2

Dette er målet med produktet, ikke dokumentasjon på at modellen kan fastslå hensikter pålitelig i alle situasjoner. En pause, et ansiktsuttrykk eller en endring i stemmeleiet kan ha flere forklaringer. Ett signal bør derfor ikke behandles som en diagnose eller en universell tolkning.

Mulige bruksområder – og kunnskapsgrensene

Interhuman trekker fram samtalebasert KI og intervjutrening som mulige bruksområder. Selskapets nettside omtaler øving til jobbintervjuer med tilbakemelding på framføring. I materiale om forskningsintervjuer beskriver selskapet hvordan signaler kan knyttes til bestemte deler av et svar. Dette eksempelet gjelder den tidligere modellen Inter-1; det viser ikke at alle funksjonene også finnes i alle Inter-2-oppsett. 524

Slike eksempler viser hvordan analyse av sosiale signaler kan tenkes brukt i veiledning eller til å gjennomgå intervjuer. De dokumenterer ikke i seg selv hvor treffsikker modellen er på tvers av personer, kulturer og situasjoner. Kildene som er tilgjengelige, gir ikke nok informasjon til å vurdere ytelsen uavhengig.

Sporbarhet, personvern og risiko for misbruk

Interhuman sier at den tidligere modellen Inter-1 kan forklare hvilke atferdssignaler som lå bak en vurdering. Selskapet beskriver også hvordan signaler i et intervju kan knyttes til konkrete formuleringer. Slike forklaringer kan gjøre resultatene lettere å etterprøve når funksjonene er tilgjengelige. Kildene bekrefter imidlertid ikke at alle vurderinger fra Inter-2 gir den samme sporbarheten. 2524

I selskapets vilkår er enkelte bruksområder definert som begrenset, blant annet å utlede følelser hos personer i arbeidslivet eller i utdanningsinstitusjoner. Det tilgjengelige materialet gir ikke nok informasjon om lagringstid for data, hvordan samtykke innhentes, eller hvordan begrensningene håndheves i praksis. 19

Dette er spørsmål det er verdt å følge med på, fordi teknologien analyserer ansikter, stemmer og samtaler. Sosiale signaler kan tolkes feil eller brukes til overvåking, og kildene fastslår ikke hvordan selskapets sikkerhetstiltak håndterer alle slike risikoer.

Hva vet vi om planene videre?

Omtalen og selskapets materiale beskriver Inter-2s nåværende multimodale tilnærming, men bekrefter ingen tidsplan eller konkrete tekniske løfter om analyse av bare lyd, samtaler med flere deltakere, senere modeller eller ekspansjon utenfor Europa. Dette bør derfor regnes som ubesvarte spørsmål – ikke som annonserte funksjoner eller datoer. 25