AnswersPublished18 sources
Yapay zekâda yeni risk alanı: Biyoloji
Yao Shunyu, yapay zekâ modellerinin siber güvenlikte olduğu gibi biyolojide de zarar verebilecek bir eşiğe yaklaşabileceği uyarısında bulundu. Tencent, 4 Kasım’da görsel anlama, akıl yürütme ve bilgisayar kullanma özelliklerine sahip 770 milyar parametreli Hy4’ü tanıttı.
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Yao Shunyu, yapay zekâ modellerinin siber güvenlikte olduğu gibi biyolojide de zarar verebilecek bir eşiğe yaklaşabileceği uyarısında bulundu.
- Tencent, 4 Kasım’da görsel anlama, akıl yürütme ve bilgisayar kullanma özelliklerine sahip 770 milyar parametreli Hy4’ü tanıttı.
- Tencent’in bildirdiği biyoloji testi puanı 100 üzerinden 30,4; şirket, Hy4’ün temel biyoloji bilgisini uygulanabilir laboratuvar protokollerine dönüştürme becerisinin sınırlı olduğunu belirtiyor.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencent’in baş yapay zekâ bilimcisi Yao Shunyu, Hong Kong’daki bir bilim sempozyumunda yapay zekâ modellerinin biyoloji alanında da zarar verebilecek kapasiteye yaklaşabileceği uyarısında bulundu. Yao’ya göre modeller siber güvenlikte şimdiden zarara yol açabilirken, benzer bir risk eşiği biyolojide de gündeme gelebilir. Bu uyarı, Tencent’in yeni modeli Hy4’ün biyolojik açıdan yüksek risk eşiğini aştığı anlamına gelmiyor; daha geniş bir yapay zekâ güvenliği meselesine işaret ediyor. 2
8
Yao’nun uyarısı ne anlama geliyor?
Yao’nun dikkat çektiği nokta, yapay zekânın biyoloji alanındaki yeteneklerinin gerçek zarara imkân verebilecek seviyeye yaklaşması. Haberlere göre biyolojide saldırı amaçlı ve savunma amaçlı kullanım arasındaki çizgiyi belirlemek, siber güvenliktekinden daha zor olabilir. 1
8
Bu, her güncel modelin zararlı biyolojik çalışmalar yürütebildiğine dair bir tespit değil; yapay zekâ yeteneklerinin nereye doğru ilerlediğine ilişkin bir uyarı. Aynı teknolojilerin ilaç ve tedavi araştırmalarını hızlandırma potansiyeli de bulunuyor. 8
Hy4’ün yetenekleri ve güvenlik değerlendirmesi
Tencent, 4 Kasım’da 770 milyar parametreli Hy4 modelini tanıttı. Model; görsel anlama, akıl yürütme ve bilgisayar kullanma özellikleriyle öne çıkıyor. Bilgisayar kullanma yeteneği, komut satırı ve grafik arayüzleri üzerinden işlem yapmasını sağlıyor. 4
5
Şirket, model ağırlıklarını ve güvenlik değerlendirmelerini içeren bir sistem kartını daha sonra yayımlamayı planladığını duyurdu. Bu planlanan paylaşımlar, Hy4’ün tanıtım sırasında çevrimiçi hizmetler üzerinden kullanıma sunulmasından ayrı bir konu. 1
9
12
Tencent’e göre Hy4, açık uçlu biyolojik deney tasarımını ölçen Hy-BioExperimentBench testinde 100 üzerinden 30,4 puan aldı. Şirket, bu sonucun kendi belirlediği yüksek risk eşiğinin altında olduğunu bildirdi. Şirket içi değerlendirmede modelin temel biyoloji bilgisinin güçlü, bu bilgiyi uygulanabilir laboratuvar protokollerine dönüştürme becerisinin ise sınırlı olduğu belirtildi. 4
13
Bu sonuç Yao’nun uyarısını geçersiz kılmıyor: Yao, öncü yapay zekâ modellerinin gelişen yeteneklerine ilişkin genel bir riskten söz ederken, açıklanan puan Tencent’in tek bir model için bildirdiği değerlendirme. Ayrıca test sonucu ve şirketin belirlediği eşik, Hy4’ün güvenli olduğuna dair bağımsız bir garanti değil. 8
13
Tencent’in siber güvenlik önlemleri
Tencent, Hy4’ün eğitiminde siber güvenlik içeriklerini kavram kanıtı üretme ve güvenlik açıklarını yamalama gibi savunma amaçlı materyallerle sınırladığını; istismar geliştirme, tersine mühendislik ve sızma testi gibi içerikleri filtrelediğini söylüyor. Şirket ayrıca Xuanwu Lab ve Keen Security Lab uzmanlarının kırmızı takım denetimleri yürüttüğünü belirtiyor. 12
Bunlar Tencent’in açıkladığı önlemler. Ancak tek başlarına Yao’nun gündeme getirdiği daha kapsamlı soruyu yanıtlamıyor: Bilimsel yetenekleri artan modeller nasıl yönetilmeli ve faydalı kullanımlarla zararlı kullanım ihtimali arasındaki ayrım giderek zorlaşırken hangi güvenlik tedbirleri alınmalı? 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Yapay zekâda yeni risk alanı: Biyoloji"?
Yao Shunyu, yapay zekâ modellerinin siber güvenlikte olduğu gibi biyolojide de zarar verebilecek bir eşiğe yaklaşabileceği uyarısında bulundu.
What are the key points to validate first?
Yao Shunyu, yapay zekâ modellerinin siber güvenlikte olduğu gibi biyolojide de zarar verebilecek bir eşiğe yaklaşabileceği uyarısında bulundu. Tencent, 4 Kasım’da görsel anlama, akıl yürütme ve bilgisayar kullanma özelliklerine sahip 770 milyar parametreli Hy4’ü tanıttı.
What should I do next in practice?
Tencent’in bildirdiği biyoloji testi puanı 100 üzerinden 30,4; şirket, Hy4’ün temel biyoloji bilgisini uygulanabilir laboratuvar protokollerine dönüştürme becerisinin sınırlı olduğunu belirtiyor.