Inter-2 od Interhuman AI: jaké signály rozpoznává — a co z nich nelze vyvozovat

Interhuman AI chce, aby umělá inteligence reagovala nejen na to, co člověk říká, ale také na to, jak to říká. Kodaňská firma vyvíjí model Inter-2, který podle dostupných popisů v reálném čase vyhodnocuje sociální signály v textu, zvuku a videu. Jeho výstupy je ale třeba chápat jako odhady pozorovatelného chování, nikoli jako spolehlivé čtení něčích skrytých myšlenek nebo pocitů. 25

Co má Inter-2 rozpoznávat

Model podle zveřejněného výčtu sleduje deset signálů: souhlas, nesouhlas, skepsi, sebejistotu, váhání, frustraci, zájem, nejistotu, zmatení a stres. Zároveň uvádí celkový stav zapojení do rozhovoru. 18

Záměrem je spojit obsah řeči s dalšími vodítky, například s tónem hlasu, výrazem tváře nebo řečí těla. Tech.eu popisuje analýzu textu, zvuku a videa; katalog modelů uvádí rozpoznávání signálů z videa se zvukem. Veřejné materiály tedy podporují tvrzení, že jde o multimodální analýzu, ale nepopisují do detailu, jak se jednotlivé vstupy zpracovávají v každé variantě produktu. 2518

Proč firma staví „sociální inteligenci“ pro AI

Interhuman AI vznikla v Kodani v roce 2023. Mezi její spoluzakladatele patří Paula Petcu, Frederik Sally a Line Clemmensen. 179

Firma vychází z předpokladu, že samotný přepis rozhovoru nemusí AI stačit k vhodné reakci. Pokud by systém zaznamenal například známky zmatení nebo ztráty zájmu, mohl by podle záměru firmy upravit způsob, jakým v konverzaci pokračuje. Tech.eu popisuje přístup Interhuman jako doplnění velkých jazykových modelů o analýzu zvuku a videa. 2

Jde však o cíl produktu, nikoli o důkaz, že model dokáže v každé situaci správně odhadnout, co člověk zamýšlí. Pauza, výraz tváře nebo změna hlasu mohou mít různé příčiny. Jeden signál proto nelze automaticky považovat za diagnózu ani za univerzální vysvětlení chování.

Možná využití a hranice dostupných důkazů

Interhuman uvádí jako možné oblasti využití konverzační AI a koučování při pracovních pohovorech. Firma na svém webu popisuje trénink nanečisto zaměřený na projev; její materiál o výzkumných rozhovorech zase ukazuje přiřazování signálů k příslušným částem odpovědi. Tento příklad se týká staršího modelu Inter-1, a nedokládá tedy, že všechny stejné funkce nabízí každé nasazení Inter-2. 524

Ukázky naznačují, jak by vrstva pro analýzu sociálních signálů mohla pomoci při koučování nebo při vyhodnocování výzkumných rozhovorů. Samy o sobě ale nedokazují, že model podává přesné výsledky u různých lidí, v různých kulturách a situacích. Dostupné zdroje neobsahují dost podrobností, aby bylo možné jeho výkon nezávisle posoudit.

Dohledatelnost, soukromí a riziko zneužití

Interhuman uvádí, že její předchozí model Inter-1 dokáže vysvětlit, které pozorované signály přispěly k určitému vyhodnocení. Firma také popisuje přiřazení signálů ke konkrétním větám v odpovědích při rozhovoru. Pokud jsou takové funkce k dispozici, mohou usnadnit kontrolu výsledků. Zdroje však nepotvrzují, že stejné vysvětlení a dohledatelnost poskytuje každý výstup modelu Inter-2. 2524

Podmínky firmy označují některá použití za zakázaná či omezená, mimo jiné odvozování emocí člověka na pracovišti nebo ve vzdělávacích institucích. Dostupné materiály nepopisují dostatečně podrobně dobu uchovávání dat, způsob získávání souhlasu ani to, jak se omezení v praxi vymáhají. 19

Tyto otázky jsou důležité, protože technologie pracuje s tvářemi, hlasy a obsahem konverzace. Sociální signály lze vyložit chybně nebo využít k monitorování lidí; dostupné informace neukazují, jak firma řeší všechna související rizika.

Co víme o dalším vývoji

Zprávy a materiály firmy popisují současný multimodální přístup Inter-2, nepotvrzují však konkrétní termíny ani technické závazky týkající se analýzy hlasu bez videa, rozhovorů více lidí, dalších modelů nebo rozšíření mimo Evropu. Jde tedy o otevřené otázky, nikoli o oznámené funkce či plánovaná data. 25