AnswersPublished18 sources
Tencent ostrzega: AI może wkrótce stwarzać zagrożenia w biologii
Yao Shunyu ostrzegł, że modele AI mogą wkrótce umożliwiać wyrządzanie szkód w biologii, podobnie jak już mogą stwarzać zagrożenia w cyberprzestrzeni. Uruchomiony 4 listopada model Hy4 ma 770 mld parametrów i nowe możliwości analizy obrazu oraz obsługi komputera; Tencent zapowiedział późniejsze udostępnienie wag i ka...
Opublikowane przezEdytowane za pomocą GPT-6 LunaObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Yao Shunyu ostrzegł, że modele AI mogą wkrótce umożliwiać wyrządzanie szkód w biologii, podobnie jak już mogą stwarzać zagrożenia w cyberprzestrzeni.
- Uruchomiony 4 listopada model Hy4 ma 770 mld parametrów i nowe możliwości analizy obrazu oraz obsługi komputera; Tencent zapowiedział późniejsze udostępnienie wag i karty systemowej.
- Tencent podaje, że Hy4 uzyskał 30,4/100 w teście projektowania eksperymentów biologicznych, a firma stosowała też zabezpieczenia dotyczące danych cyberbezpieczeństwa i audyty red team.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Szef ds. AI w Tencent, Yao Shunyu, ostrzegł podczas sympozjum naukowego w Hongkongu, że modele AI mogą wkrótce być zdolne do wyrządzania szkód w biologii — podobnie jak już mogą stwarzać zagrożenia w cyberbezpieczeństwie. To ostrzeżenie o kierunku rozwoju zaawansowanych modeli, a nie dowód, że nowy model Tencentu, Hy4, przekroczył próg wysokiego ryzyka biologicznego. 2
8
Na czym polega ostrzeżenie Yao?
Według relacji Yao obawia się, że możliwości AI w biologii zbliżają się do poziomu, na którym mogłyby umożliwiać realne szkody. Zwraca też uwagę, że rozróżnienie zastosowań ofensywnych i obronnych może być w biologii trudniejsze niż w cyberbezpieczeństwie. 1
8
Nie oznacza to, że każdy obecny model potrafi wykonywać szkodliwe zadania biologiczne. W relacjach z wystąpienia Yao mowa również o potencjalnych korzyściach AI dla biologii, takich jak przyspieszenie badań nad lekami i terapiami. 8
Co Tencent ujawnił o modelu Hy4?
Tencent uruchomił Hy4 4 listopada. Model o 770 mld parametrów zyskał m.in. zdolność rozumienia obrazu, rozumowania i obsługi komputera — w tym wykonywania zadań za pomocą wiersza poleceń oraz interfejsu graficznego. 4
5
W chwili premiery firma zapowiadała, że w późniejszym terminie udostępni wagi modelu oraz kartę systemową, czyli dokument z dodatkowymi informacjami o jego działaniu i bezpieczeństwie. Te zapowiedziane materiały należy odróżnić od samego uruchomienia modelu w usługach Tencentu. 1
9
12
Tencent podał, że Hy4 uzyskał 30,4/100 w teście Hy-BioExperimentBench, który ocenia możliwości projektowania otwartych eksperymentów biologicznych. Według firmy wynik nie przekracza jej progu wysokiego ryzyka. W wewnętrznej ocenie Tencentu model wykazał podstawową wiedzę biologiczną, ale miał ograniczoną zdolność przekładania jej na konkretne, możliwe do zastosowania w laboratorium protokoły. 4
13
Wynik Hy4 pozwala osadzić ostrzeżenie Yao w kontekście, ale go nie obala. Ostrzeżenie dotyczy rozwijających się możliwości zaawansowanych modeli AI, natomiast wynik testu jest oceną jednego modelu, podaną przez jego producenta. Ani rezultat, ani próg przyjęty przez Tencent nie stanowią niezależnej gwarancji bezpieczeństwa Hy4. 8
13
Jakie zabezpieczenia cyberbezpieczeństwa deklaruje Tencent?
Firma informuje, że w danych treningowych dotyczących cyberbezpieczeństwa ograniczyła się do materiałów o zastosowaniach obronnych, takich jak tworzenie kodu proof-of-concept i łatanie podatności. Z kolei materiały obejmujące m.in. tworzenie exploitów, inżynierię wsteczną i testy penetracyjne miały zostać odfiltrowane. Tencent podaje również, że audyty red-team przeprowadzili eksperci z jego laboratoriów Xuanwu Lab i Keen Security Lab. 12
Są to zabezpieczenia opisywane przez samą firmę. Same w sobie nie rozstrzygają szerszej kwestii poruszonej przez Yao: jak zarządzać modelami w miarę wzrostu ich możliwości naukowych, gdy coraz trudniej oddzielić potencjalnie szkodliwe zastosowania od tych przynoszących korzyści. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tencent ostrzega: AI może wkrótce stwarzać zagrożenia w biologii"?
Yao Shunyu ostrzegł, że modele AI mogą wkrótce umożliwiać wyrządzanie szkód w biologii, podobnie jak już mogą stwarzać zagrożenia w cyberprzestrzeni.
What are the key points to validate first?
Yao Shunyu ostrzegł, że modele AI mogą wkrótce umożliwiać wyrządzanie szkód w biologii, podobnie jak już mogą stwarzać zagrożenia w cyberprzestrzeni. Uruchomiony 4 listopada model Hy4 ma 770 mld parametrów i nowe możliwości analizy obrazu oraz obsługi komputera; Tencent zapowiedział późniejsze udostępnienie wag i karty systemowej.
What should I do next in practice?
Tencent podaje, że Hy4 uzyskał 30,4/100 w teście projektowania eksperymentów biologicznych, a firma stosowała też zabezpieczenia dotyczące danych cyberbezpieczeństwa i audyty red team.