Yapay zekâya yeşil, sarı ve kırmızı ışık: Şirketler için pratik bir kural seti

Şirketler için yapay zekâ politikasını “kullanılabilir” ya da “insan denetiminde” gibi genel ifadelerle sınırlamak yerine, hangi görevlerde nasıl kullanılacağını açıkça tanımlamak daha işlevsel olabilir. Singapur mahkemeleri, üretken yapay zekânın mahkeme belgelerinin hazırlanmasına yardımcı olmasına izin veriyor; ancak sunulan bilgilerin doğruluğunu bağımsız olarak kontrol etme sorumluluğunu kullanan kişilere bırakıyor. Şirketler bu ilkeden yararlanabilir, fakat kendi kurallarını görevlerine ve risklerine göre belirlemeli; bunları mahkemelerin işletmelere koyduğu bir zorunluluk gibi sunmamalı. 36

Sınırı kullanılan araca değil, yapılan işe göre belirleyin

Aynı yapay zekâ aracı bir metni düzenlemek için uygunken bir kişiyi etkileyen kararda uygun olmayabilir. Singapur mahkemelerinin ele aldığı trafik ışığı yaklaşımında yeşil, insanın bilgiyi anlamasına yardımcı olan çeviri ve özetleme gibi kullanımları; sarı, daha dikkatli değerlendirme gerektiren alanları; kırmızı ise mahkemelerin kullanmayı düşünmediği işleri ifade ediyor. 638

Şirketler bu renkleri pratik bir politika iskeletine dönüştürebilir. Aşağıdaki örnekler evrensel bir sınıflandırma değil, başlangıç noktasıdır: Her görevde kullanılan bilgileri, olası hata sonuçlarını ve iş akışını ayrıca değerlendirin.

Yeşil: Rutin işlerde yardımcı olsun

Onaylanmış yapay zekâ araçlarının biçimlendirme, çeviri, bilgileri düzenleme veya ilk taslağı hazırlama gibi görece düşük riskli işlerde kullanılmasına izin verilebilir. Hangi araçların onaylı olduğunu, çalışanların araca hangi bilgileri girebileceğini ve çıktının kullanılmadan önce kontrol gerektirip gerektirmediğini belirtin. Yapay zekânın hazırladığı bir taslağın tek başına şirketin onaylanmış görüşü veya kararı olmadığını da açıkça yazın.

Sarı: Hazırlığa destek olsun, kararı vermesin

Önemli sonuçlar doğurabilecek işlerde yapay zekâ; belgeleri düzenlemeye, kayıtları özetlemeye veya seçenekleri sıralamaya yardımcı olabilir. Ancak bu çalışmanın bir kişiyi etkilemesinden önce belirlenmiş bir çalışan önemli iddiaları asıl kayıtlarla karşılaştırmalı, bağlamı değerlendirmeli ve çıktıyı onaylamalıdır.

Bağımsız doğrulama, ilk yapay zekâ çıktısını başka bir yapay zekâya kontrol ettirmek değildir. İlgili temel kanıta ya da güvenilir asıl kayda dönüp bilgiyi oradan denetlemektir. Singapur mahkemelerinin rehberi de mahkemeye sunulan bilgilerin bağımsız biçimde doğrulanmış, doğru, gerçeğe uygun ve uygun olmasını sağlama sorumluluğunu mahkeme kullanıcılarına yüklüyor. 3

Kırmızı: Son kararı insana bırakın

Şirketler istihdam, güvenlik veya temel hizmetlere erişim gibi konulardaki kararları insan sorumluluğuna ayırabilir. Böyle durumlarda yapay zekâ hazırlık sürecine katkı sunabilir; ancak son kararı vermemeli veya otomatik olarak uygulamaya koymamalıdır. Sorumlu kişi vakayı kendi değerlendirmeli, sistemin önerisini reddedebilmeli ve kararını açıklayabilmelidir.

Bu, şirketler için önerilen bir güvenlik önlemidir; Singapur mahkemelerinin işletmelere aynen bu kuralı koyduğu anlamına gelmez. Yargı, yapay zekâ araçlarının hâkimlerin belgeleri okuyup anlamasına yardımcı olabileceğini belirtirken mevcut yaklaşımında kanıtları tartmak, hukuku olgulara uygulamak veya takdir yetkisi kullanmak için yapay zekâdan yararlanmıyor. 40

Kuralları kamuya açık ve somut hâle getirin

“Yapay zekâyı sorumlu kullanıyoruz” gibi genel bir açıklama yerine, izin verilen işleri tek tek tarif eden bir politika daha yol gösterici olur. Her kullanım için şu soruları yanıtlayan kısa bir açıklama yayımlayın:

• Yapay zekâ bu görevde ne yapabilir, hangi sınırları aşamaz?
• Çalışanlar araca hangi bilgileri girebilir?
• Çıktıyı kim, hangi asıl kayıt veya kaynakla karşılaştırarak kontrol eder?
• Nihai kararı kim verir?
• Çalışanlar veya karardan etkilenen kişiler bir hatayı nasıl bildirebilir ya da karara nasıl itiraz edebilir?

Şirket içinde de kullanılan aracı ve görevi, incelenen kaynakları ve onayı veren kişiyi makul ölçüde kayda alın. İncelemeyi yapan kişilere çıktıya katılmama yetkisi ve yeterli zaman tanıyın; aksi hâlde insan denetimi yalnızca biçimsel bir imzaya dönüşebilir.

Sınıflandırmayı güncelleyin, çalışanların muhakemesini koruyun

Bir göreve verilen rengi kalıcı bir etiket değil, düzenli olarak yeniden değerlendirilmesi gereken bir karar olarak görün. Belirli aracı belirli iş akışında sınayın, hataları inceleyin ve kontrollerin değiştirilmesi ya da kullanımın durdurulması gerekip gerekmediğine karar verin. Bir model hakkındaki genel iddiaların her görev için geçerli olduğunu varsaymayın.

Çalışanların yapay zekânın destek verdiği işi uygulayarak öğrenme fırsatını da koruyun. Singapur Baş Yargıcı, yapay zekânın genç hukukçulara temel becerileri kazandırmaya yardımcı olan rutin hukuk işlerini dönüştürebileceğine ilişkin kaygılarını dile getirdi. 2335 Şirketler açısından daha genel çıkarım şu: Çalışanların işi anlayabilmesi, hataları fark edebilmesi ve bağımsız değerlendirme yapabilmesi için yeterli deneyim kazanması gerekir. Yapay zekâ çıktısını gerçekten denetlemek, yalnızca ekrana bakıp onay vermekten fazlasını gerektirir.

Uygulanabilir bir ölçüt

Trafik ışığı yaklaşımı, her rengin iş akışında gerçek bir fark yarattığı ölçüde işe yarar: Yapay zekânın ne yapabileceği, bir kişinin neyi doğrulaması gerektiği, kimin sorumluluk taşıdığı ve hatalı bir karara nasıl itiraz edilebileceği net olmalıdır. Sınırları görev bazında yayımlayın, araçlar ve iş akışları değiştikçe gözden geçirin ve önemli değerlendirmeleri bunları yapmaya yetkili ve donanımlı kişilere bırakın.