Üretken Yapay Zekâ Akıllı Evleri Neden Sürekli Bozuyor?

Georgia Tech’ten Mark Riedl’in vurguladığı temel ödünleşim de bu: Büyük dil modelleri çok daha fazla iletişim biçimini anlayabiliyor; fakat bu açıklık, yorumlama hataları için daha fazla fırsat yaratıyor. Akıllı evlerdeki sorun üzerine yapılan değerlendirmeler de eski şablon eşleştirme yaklaşımıyla, aynı tür isteğe farklı yanıtlar üretebilen olasılıksal dönüştürücü tabanlı sistemler arasındaki farkı ortaya koyuyor.

En basit komutlar zayıflığı neden daha görünür kılıyor?

Bir lambayı kısmak kolay bir istek gibi görünüyor; çünkü beklenen sonuç son derece net. Asistanın tek bir hedef seçmesi, tek bir değer uygulaması ve cihazın gerçekten istenen duruma geçtiğini doğrulaması gerekiyor. Kulağa makul gelen fakat lambayı değiştirmeyen ya da bir grubun yalnızca bazı üyelerini etkileyen bir yanıt burada kabul edilemez.

Bu ikili başarı standardı, açık uçlu sohbetlerde fark edilmeyebilecek kusurları görünür hale getiriyor. Model akıcı konuşurken cihaz adını yanlış anlayabilir, yanlış yeteneği seçebilir veya cihazın durumunu gerçekten doğrulamadan işlemi tamamladığını söyleyebilir. Kullanıcılar sohbet eden bir asistandan ek soru gelmesini tolere edebilir; ancak yatma vakti rutini çalışmadığında ya da sistem komutu uyguladığını söylemesine rağmen ışık açık kaldığında tolerans hızla tükenir.

Sorun, bu ürünlerin karşı karşıya olduğu entegrasyon yüküyle de bağlantılı. Alexa+’ın daha yetenekli ve esnek bir modelle birlikte mevcut hizmetleri ve milyonlarca Alexa uyumlu cihazı bir araya getirmesi gerekiyor. Haber ve incelemelerde bu birleşimin, model daha gelişmiş olsa bile zorlayıcı olduğu belirtiliyor.

David Pogue’un testi ne gösteriyor, ne göstermiyor?

David Pogue, Alexa+’a 135 görev verdiğini ve bunların yarısından biraz azını doğru tamamladığını söyledi. Bu, tüm Alexa+ kullanıcılarını veya desteklenen her cihazı kapsayan kontrollü bir araştırma değil. Dolayısıyla sonucu evrensel bir başarı oranı olarak yorumlamak doğru olmaz.

Yine de bu bulgu güçlü bir ürün sinyali. Ev içindeki asistan ışıklar, dimmer’lar, rutinler, müzik ve benzeri tekrar eden işlerde buna yakın bir sıklıkta hata yapıyorsa kullanıcıların ona güvenmesi zorlaşır. Pogue’un aktarımında, ışık kontrolü ve dimmer seviyesini ayarlama gibi tanıdık görevlerde eski Alexa’nın daha güvenilir olduğu yönündeki gözlemler de yer alıyor.

Buradaki ayrım önemli: Daha geniş yeteneklere sahip olmak, daha yüksek güvenilirlik anlamına gelmiyor. Bir asistan daha fazla türde isteği anlayabilir; fakat insanların her gün kullandığı dar komut kümesinde daha öngörülemez hale gelebilir.

Gecikme, sistemi bir ev aleti olmaktan çıkarıyor

Akıllı evlerde hız da güvenilirliğin bir parçası. Bir ışık anahtarının nedenini açıklaması gerekmez; çalışması gerekir. Asistanın yanıt vermesi birkaç saniye sürdüğünde, kullanıcı komutun uygulanıp uygulanmadığından emin olamaz. Alexa+ testlerinde bazı yanıtların 15 saniyeye kadar uzadığı bildirildi.

Uzun bekleme süreleri, isteğin uzaktan çıkarım, bağlam işleme, orkestrasyon ve araç çalıştırma gibi daha fazla katmandan geçtiğine işaret edebilir. Cihaz sonunda yanıt verse bile deneyim artık bir ev aletini kullanmak gibi hissettirmez. Kullanıcı, isteğinin ne anlama geldiğine bir servisin karar vermesini bekliyor gibidir.

Aynı gerilim Apple’ın ev ürünlerinde de görülüyor

Apple’ın HomePod ve Apple TV için bildirilen planları, donanımla asistan yazılımının artık ne kadar yakından bağlantılı olduğunu gösteriyor. Haberlerde Apple’ın bu ürünler için yapay zekâ odaklı yeni Siri desteği hazırladığı, beta kodu referanslarının da HomePod ve Apple TV’de Siri entegrasyonu üzerinde aktif olarak çalışıldığını gösterdiği aktarılıyor.

Bazı haberlerde, güncellenmiş HomePod ve Apple TV donanımlarının yeni Siri deneyimi hazır olana kadar bekletildiği de öne sürüldü. Ancak bunlar Apple tarafından doğrulanmış bir ürün takvimi değil, haber kaynaklarına dayanan iddialar. Bu nedenle temkinli okunmaları gerekiyor.

Buradaki daha geniş ders belirli bir çıkış tarihinden bağımsız: Bir akıllı hoparlörün değeri yeni yapay zekâ asistanına bağlı hale geldiğinde, henüz tamamlanmamış asistan çevresindeki donanımın çıkışını da etkileyebilir. Gösterimlerde etkileyici görünen fakat ev içindeki rutin işlerde güven vermeyen bir sistemi piyasaya sürmenin maliyeti böylece yükselir.

Daha iyi çözüm: Önde yapay zekâ, arkada kesin kontrol

Çözüm mutlaka doğal dil arayüzlerinden vazgeçmek değil. Üretken modeller, esnek konuşmaları yapılandırılmış bir amaca çevirmekte yararlı olabilir. Riskli olan, kısıtlanmamış modelin eylemin son karar mercii haline gelmesi.

Daha güvenilir bir mimari şunları yapabilir:

• İsteği katı bir cihaz, eylem ve parametre şemasına dönüştürmek;
• Araç seçimini evde gerçekten bulunan yeteneklerle sınırlamak;
• Belirsiz veya geçersiz komutlarda tahminde bulunmak yerine işlemi reddetmek;
• Eylemden sonra cihazın durumunu doğrulamak;
• Model kararsız olduğunda ya da kullanılamadığında deterministik komut yoluna dönmek.

Büyük dil modellerinin akıllı evlerdeki kullanımını inceleyen araştırmalar da bu güvenlik önlemlerinin gerekliliğine işaret ediyor. 13 modelin değerlendirildiği bir çalışmada GPT-4o, test edilen senaryoda geçersiz çoklu cihaz talimatları için yüzde 0 başarı oranı kaydetti; bu sonuç, bağlam içi öğrenme, erişim destekli üretim ve ince ayar gibi teknikler kullanılsa bile ortaya çıktı. Bu bulgu belirli bir deney düzenine ait ve günlük kullanım için doğrudan başarı oranı olarak alınmamalı. Ancak gerçek cihazları kontrol etmeden önce model çıktılarının neden doğrulanması gerektiğini açıkça gösteriyor.

Yapay zekâlı akıllı hoparlörün kimlik krizi

Amazon, Google ve Apple, tek bir üründen birbiriyle çelişen iki beklentiyi karşılamasını istiyor. Bir sohbet arkadaşı olarak yapay zekâ asistanı keşfedici, ayrıntılı ve belirsizliğe toleranslı olabilir. Ev otomasyonunun kontrol merkezi olarak ise sessiz, hızlı, duruma duyarlı ve kesin olması gerekir.

Eski sistemler kullanıcıları katı komut kalıplarını öğrenmeye zorladığı için can sıkıcıydı. Yeni sistemler bu yükü ortadan kaldırmayı vaat ediyor; fakat doğal dil yalnızca ön yüzü değiştiriyor. Kullanıcının gündelik bir ifadeyle yaptığı her isteğin arkasında hâlâ somut bir eylem bulunuyor: tek bir cihaz, tek bir durum değişikliği ve güvenilir bir doğrulama.

Şirketler sohbet katmanının altında deterministik çalışmayı koruyana kadar “daha akıllı” asistanlar, sesli kontrolü değerli kılan en önemli unsuru—güveni—zayıflatmayı sürdürecek. Tamamlanmamış sistemleri piyasaya sürmek şirketlere değerli geri bildirim sağlayabilir; ancak bu testler ücret ödeyen insanların evlerinde yapıldığında, henüz ev aleti düzeyinde güvenilirliğe ulaşmamış bir mimarinin bedelini müşteriler üstlenmiş olur.