उत्तरप्रकाशित18 स्रोत
AI से जैविक नुकसान का खतरा बढ़ सकता है: Tencent के AI प्रमुख की चेतावनी
Yao Shunyu ने चेताया कि AI मॉडल जल्द जीवविज्ञान के क्षेत्र में नुकसान पहुँचाने में सक्षम हो सकते हैं, जैसे वे साइबर सुरक्षा में पहले से कर सकते हैं। 4 नवंबर को जारी Hy4 में दृश्य समझ, तर्क और कंप्यूटर चलाने की क्षमताएँ हैं; Tencent ने कहा कि मॉडल के वेट्स और सुरक्षा संबंधी सिस्टम कार्ड बाद में जारी किए जाएंगे। Tence...
प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए
शोध उत्तर
मुख्य निष्कर्ष
- Yao Shunyu ने चेताया कि AI मॉडल जल्द जीवविज्ञान के क्षेत्र में नुकसान पहुँचाने में सक्षम हो सकते हैं, जैसे वे साइबर सुरक्षा में पहले से कर सकते हैं।
- 4 नवंबर को जारी Hy4 में दृश्य समझ, तर्क और कंप्यूटर चलाने की क्षमताएँ हैं; Tencent ने कहा कि मॉडल के वेट्स और सुरक्षा संबंधी सिस्टम कार्ड बाद में जारी किए जाएंगे।
- Tencent के मुताबिक, Hy4 ने Hy BioExperimentBench पर 100 में 30.4 अंक हासिल किए—कंपनी की बताई उच्च जोखिम सीमा से कम।
- Tencent का कहना है कि उसने प्रशिक्षण में कुछ आक्रामक साइबर सामग्री हटाई और अपनी सुरक्षा टीमों से रेड टीम ऑडिट करवाए।
AI संकेत
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencent के मुख्य AI वैज्ञानिक Yao Shunyu ने हांगकांग में एक विज्ञान संगोष्ठी में चेताया कि AI मॉडल जल्द जीवविज्ञान के क्षेत्र में भी नुकसान पहुँचाने में सक्षम हो सकते हैं—ठीक वैसे ही जैसे वे साइबर सुरक्षा में पहले से नुकसान पहुँचा सकते हैं। यह उन्नत AI मॉडल की बढ़ती क्षमताओं से जुड़े व्यापक जोखिम की चेतावनी है; इससे यह साबित नहीं होता कि Tencent का नया Hy4 मॉडल जैविक सुरक्षा की उच्च-जोखिम सीमा पार कर चुका है। 2
8
Yao की चेतावनी का आशय
Yao की चिंता यह है कि AI की जैविक क्षमताएँ उस स्तर के करीब पहुँच रही हैं जहाँ उनका इस्तेमाल वास्तविक नुकसान के लिए हो सकता है। रिपोर्टों के मुताबिक, जैविक क्षेत्र में हमले और बचाव—दोनों के काम आने वाली क्षमताओं को अलग-अलग पहचानना साइबर सुरक्षा की तुलना में अधिक कठिन हो सकता है। 1
8
यह चेतावनी AI की क्षमताओं की दिशा और उनके संभावित असर के बारे में है, न कि इस निष्कर्ष के बारे में कि आज का हर मॉडल नुकसानदेह जैविक काम कर सकता है। रिपोर्टों में जीवविज्ञान और चिकित्सा में AI के संभावित लाभों का भी ज़िक्र है, जैसे दवाओं और उपचारों पर शोध को तेज़ करना। 8
Hy4 के बारे में Tencent का आकलन
Tencent ने 4 नवंबर को Hy4 जारी किया। 770 अरब पैरामीटर वाले इस मॉडल में दृश्य समझ, तर्क और कंप्यूटर चलाने की क्षमताएँ जोड़ी गई हैं। इसमें कमांड-लाइन और ग्राफ़िकल इंटरफ़ेस के ज़रिए काम करने की सुविधा भी शामिल है। 4
5
जारी किए जाने के समय Tencent ने कहा था कि मॉडल के वेट्स और सुरक्षा-संबंधी जानकारी वाला सिस्टम कार्ड बाद में उपलब्ध कराया जाएगा। इन भावी रिलीज़ों को मॉडल की होस्टेड सेवा के रूप में हुई लॉन्च से अलग समझना चाहिए। 1
9
12
Tencent के अनुसार, Hy4 ने खुले-अंत वाले जैविक प्रयोगों की योजना बनाने की क्षमता मापने वाले Hy-BioExperimentBench पर 100 में 30.4 अंक हासिल किए। कंपनी ने कहा कि यह नतीजा उसकी उच्च-जोखिम सीमा से नीचे है। उसके आंतरिक आकलन में Hy4 को जीवविज्ञान की बुनियादी जानकारी वाला मॉडल बताया गया, लेकिन उस जानकारी को काम में लाए जा सकने वाले प्रयोगशाला प्रोटोकॉल में बदलने की उसकी क्षमता सीमित पाई गई। 4
13
यह नतीजा Yao की चेतावनी के संदर्भ को समझने में मदद करता है, लेकिन उसे खारिज नहीं करता। चेतावनी उन्नत AI मॉडलों की उभरती क्षमताओं के बारे में है, जबकि यह अंक Tencent द्वारा एक खास मॉडल का किया गया आकलन है। बेंचमार्क का नतीजा और कंपनी की तय की हुई सीमा अपने-आप में Hy4 की सुरक्षा की स्वतंत्र गारंटी नहीं हैं। 8
13
साइबर सुरक्षा के लिए बताए गए उपाय
Tencent का कहना है कि उसने साइबर सुरक्षा से जुड़ी प्रशिक्षण सामग्री को रक्षात्मक उपयोगों—जैसे किसी कमजोरी को दिखाने वाला प्रूफ-ऑफ-कॉन्सेप्ट बनाना और कमजोरियों को ठीक करना—तक सीमित रखा। कंपनी के मुताबिक, एक्सप्लॉइट विकसित करने, रिवर्स इंजीनियरिंग और पेनिट्रेशन टेस्टिंग जैसी सामग्री को फ़िल्टर किया गया। Tencent यह भी कहता है कि उसकी Xuanwu Lab और Keen Security Lab के विशेषज्ञों ने रेड-टीम ऑडिट किए। 12
ये Tencent द्वारा बताए गए सुरक्षा उपाय हैं। लेकिन वे उस बड़े सवाल का अपने-आप जवाब नहीं देते जिसे Yao ने उठाया है: जैसे-जैसे AI की वैज्ञानिक क्षमताएँ बढ़ेंगी, उनके लाभकारी और संभावित नुकसानदेह इस्तेमाल के बीच फर्क करना कठिन हो सकता है—तो ऐसे मॉडलों का प्रबंधन कैसे किया जाए? 8
12
Studio Global AI
अपना शोध जारी रखें
इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।
लोग पूछते भी हैं
"AI से जैविक नुकसान का खतरा बढ़ सकता है: Tencent के AI प्रमुख की चेतावनी" का संक्षिप्त उत्तर क्या है?
Yao Shunyu ने चेताया कि AI मॉडल जल्द जीवविज्ञान के क्षेत्र में नुकसान पहुँचाने में सक्षम हो सकते हैं, जैसे वे साइबर सुरक्षा में पहले से कर सकते हैं।
सबसे पहले सत्यापित करने योग्य मुख्य बिंदु क्या हैं?
Yao Shunyu ने चेताया कि AI मॉडल जल्द जीवविज्ञान के क्षेत्र में नुकसान पहुँचाने में सक्षम हो सकते हैं, जैसे वे साइबर सुरक्षा में पहले से कर सकते हैं। 4 नवंबर को जारी Hy4 में दृश्य समझ, तर्क और कंप्यूटर चलाने की क्षमताएँ हैं; Tencent ने कहा कि मॉडल के वेट्स और सुरक्षा संबंधी सिस्टम कार्ड बाद में जारी किए जाएंगे।
मुझे अभ्यास में आगे क्या करना चाहिए?
Tencent के मुताबिक, Hy4 ने Hy BioExperimentBench पर 100 में 30.4 अंक हासिल किए—कंपनी की बताई उच्च जोखिम सीमा से कम।