Inter-2 ska hjälpa AI att tolka samtal – men inte läsa tankar

Interhuman AI utvecklar ett så kallat socialt intelligenslager som ska hjälpa AI-system att uppfatta mer än orden i ett samtal. Det Köpenhamnsbaserade bolaget beskriver sin modell Inter-2 som ett verktyg för att analysera sociala signaler i realtid. Enligt rapporteringen omfattar analysen text, ljud och video. Resultaten bör ses som bedömningar av synligt och hörbart beteende – inte som säkra besked om en persons privata tankar eller känslor. 25

Det här säger Inter-2 sig upptäcka

Modellen uppges identifiera tio signaler: instämmande, oenighet, skepticism, självsäkerhet, tvekan, frustration, intresse, osäkerhet, förvirring och stress. Den redovisar också en övergripande bedömning av engagemang. 18

Tanken är att väga samman vad någon säger med sådant som röstläge, ansiktsuttryck och kroppsspråk. Tech.eu beskriver Inter-2 som en modell som analyserar signaler i text, ljud och video. En modellbeskrivning anger däremot att signalerna hämtas från video med ljud. Källorna ger alltså stöd för multimodal analys, men förklarar inte fullt ut hur varje indata används i alla produktversioner. 2518

Varför utveckla ett socialt intelligenslager?

Interhuman AI grundades i Köpenhamn 2023. Bland grundarna finns Paula Petcu, Frederik Sally och Line Clemmensen. 179

Bolagets utgångspunkt är att en AI-assistent kan behöva mer än en utskrift av samtalet för att svara på ett lämpligt sätt. Om systemet exempelvis uppfattar förvirring eller att någon tappar intresset skulle det kunna anpassa samtalet. Tech.eu beskriver bolagets teknik som en komplettering till stora språkmodeller, med analys av ljud och video. 2

Det är ett tänkt användningsområde – inte ett bevis för att modellen kan avgöra någons avsikt på ett tillförlitligt sätt i alla situationer. En paus, en min eller en förändring i röstläge kan ha flera förklaringar. En enskild signal bör därför inte behandlas som en diagnos eller en allmängiltig tolkning.

Möjliga användningar – och vad som faktiskt är belagt

Interhuman lyfter fram samtalsbaserad AI och intervjuträning som möjliga användningar. På företagets webbplats beskrivs övningsintervjuer med fokus på framförandet. Material om forskningsintervjuer handlar om att koppla signaler till relevanta delar av ett svar. Det exemplet gäller den tidigare modellen Inter-1 och visar inte att alla funktioner finns på samma sätt i Inter-2. 524

Exemplen visar hur ett lager för sociala signaler skulle kunna användas i coachning eller hjälpa forskare att gå igenom intervjuer. De bevisar däremot inte att modellen fungerar lika bra för olika personer, kulturer eller sammanhang. De tillgängliga källorna innehåller inte tillräckliga detaljer för att bedöma modellens träffsäkerhet oberoende.

Spårbarhet, integritet och risk för missbruk

Interhuman uppger att den tidigare modellen Inter-1 kan förklara vilka beteendesignaler som låg bakom en bedömning. Bolaget beskriver också hur signaler kan kopplas till specifika formuleringar i intervjusvar. Sådana funktioner kan bidra till insyn när de finns tillgängliga, men källorna visar inte att alla resultat från Inter-2 erbjuder samma förklaringar eller spårbarhet. 2524

I sina användarvillkor anger bolaget vissa begränsningar. Bland annat listas slutsatser om en persons känslor i arbetslivet eller utbildningsmiljöer som en begränsad användning. Det tillgängliga materialet räcker inte för att beskriva bolagets rutiner för datalagring och samtycke, eller hur begränsningarna kontrolleras i praktiken. 19

Frågorna är viktiga eftersom tekniken analyserar ansikten, röster och samtal. Sociala signaler kan misstolkas eller användas för övervakning; det underlag som finns visar inte hur bolagets skydd hanterar alla sådana risker.

Vad är känt om Interhumans planer framåt?

Rapporteringen och bolagets material beskriver Inter-2:s nuvarande multimodala inriktning, men bekräftar inte någon tidsplan eller konkreta tekniska löften om analys av enbart röst, samtal med flera personer, kommande modeller eller en expansion utanför Europa. Det bör därför ses som öppna frågor – inte som utannonserade funktioner eller fastställda datum. 25