AntwortenVeröffentlicht18 Quellen
Tencent-Forscher warnt vor biologischen Risiken durch KI
Yao Shunyu warnt, KI Modelle könnten bald auch in der Biologie Schaden ermöglichen – ähnlich wie bereits im Bereich Cybersicherheit. Das am 4.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Yao Shunyu warnt, KI Modelle könnten bald auch in der Biologie Schaden ermöglichen – ähnlich wie bereits im Bereich Cybersicherheit.
- Das am 4. November vorgestellte Hy4 verfügt über visuelles Verständnis und Computersteuerung; Gewichte und ein System Card mit Sicherheitsinformationen sollen noch folgen.
- Tencent zufolge erzielte Hy4 im Test Hy BioExperimentBench 30,4 von 100 Punkten und lag damit unter der unternehmenseigenen Hochrisiko Schwelle.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencent-Chefwissenschaftler Yao Shunyu warnt, KI-Modelle könnten bald auch in der Biologie Schaden anrichten – ähnlich wie es bereits bei Fähigkeiten im Bereich Cybersicherheit möglich ist. Seine Aussage beschreibt ein allgemeines Risiko leistungsfähiger KI, nicht den Nachweis, dass das neue Tencent-Modell Hy4 bereits eine biologische Hochrisiko-Schwelle überschritten hat. 2
8
Wovor Yao warnt
Nach den Berichten sieht Yao die biologischen Fähigkeiten von KI an einem Punkt, an dem sie künftig realen Schaden ermöglichen könnten. Zudem sei es in der Biologie schwieriger als in der Cybersicherheit, zwischen offensiven und defensiven Anwendungen zu unterscheiden. 1
8
Gemeint ist die Entwicklung der KI-Fähigkeiten insgesamt – nicht die Feststellung, dass jedes heutige Modell bereits schädliche biologische Arbeiten ausführen kann. Zugleich kann KI laut den Berichten auch nützliche Forschung unterstützen, etwa die Entwicklung von Medikamenten und Behandlungen beschleunigen. 8
Was Tencent über Hy4 berichtet
Tencent stellte Hy4 am 4. November vor. Das Modell mit 770 Milliarden Parametern kann nach Unternehmensangaben Bilder verstehen, Schlussfolgerungen ziehen und Computer bedienen. Dazu gehört, Aufgaben sowohl über die Kommandozeile als auch über grafische Benutzeroberflächen zu bearbeiten. 4
5
Zum Start kündigte Tencent an, die Modellgewichte und eine System Card mit weiteren Sicherheitsinformationen später zu veröffentlichen. Diese angekündigten Materialien sind vom Start des gehosteten Modells zu unterscheiden. 1
9
12
Im Test Hy-BioExperimentBench zur offenen Planung biologischer Experimente erzielte Hy4 laut Tencent 30,4 von 100 Punkten. Das Unternehmen erklärte, der Wert liege unter seiner Hochrisiko-Schwelle. Eine interne Prüfung habe ergeben, dass Hy4 über grundlegendes biologisches Wissen verfüge, dieses aber nur eingeschränkt in konkrete, praktisch umsetzbare Laborprotokolle übertragen könne. 4
13
Das Ergebnis ordnet Yaos Warnung ein, widerlegt sie aber nicht: Er spricht über entstehende Fähigkeiten leistungsfähiger KI-Modelle insgesamt; der Testwert bezieht sich auf eine von Tencent berichtete Bewertung von Hy4. Sowohl der Wert als auch die verwendete Schwelle stammen aus der unternehmenseigenen Bewertung und sind keine unabhängige Sicherheitsgarantie. 8
13
Tencents Maßnahmen zur Cybersicherheit
Tencent zufolge beschränkte das Unternehmen die Cybersicherheitsdaten im Training auf defensive Inhalte, etwa die Erstellung von Proofs of Concept und das Beheben von Sicherheitslücken. Material zu offensiver Exploit-Entwicklung, Reverse Engineering und Penetrationstests sei herausgefiltert worden. Außerdem hätten Fachleute aus dem Xuanwu Lab und dem Keen Security Lab von Tencent Red-Team-Prüfungen durchgeführt. 12
Das sind von Tencent beschriebene Schutzmaßnahmen. Für sich genommen beantworten sie jedoch nicht die umfassendere Frage, die Yao aufwirft: Wie lassen sich KI-Modelle absichern, wenn ihre wissenschaftlichen Fähigkeiten wachsen und sich nützliche Anwendungen immer schwerer von möglichen Missbrauchszwecken trennen lassen? 8
12
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Tencent-Forscher warnt vor biologischen Risiken durch KI“?
Yao Shunyu warnt, KI Modelle könnten bald auch in der Biologie Schaden ermöglichen – ähnlich wie bereits im Bereich Cybersicherheit.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Yao Shunyu warnt, KI Modelle könnten bald auch in der Biologie Schaden ermöglichen – ähnlich wie bereits im Bereich Cybersicherheit. Das am 4. November vorgestellte Hy4 verfügt über visuelles Verständnis und Computersteuerung; Gewichte und ein System Card mit Sicherheitsinformationen sollen noch folgen.
Was soll ich als nächstes in der Praxis tun?
Tencent zufolge erzielte Hy4 im Test Hy BioExperimentBench 30,4 von 100 Punkten und lag damit unter der unternehmenseigenen Hochrisiko Schwelle.