AnswersPublished21 sources
OpenAI vill se starkare biosäkerhet och oberoende tester av avancerad AI
OpenAI stödjer Web of Biological Data Act, AI Ready Bio Data Standards Act och Scale Biology Act, som ska förbättra data, standarder och kapacitet för biosäkerhet. Bolaget stödjer också en bestämmelse i FRONTIER Act som skulle kräva att ledande AI företag använder oberoende säkerhetsutvärderare.
Publicerad avRedigerad med GPT-5.6 TerraBilder genererade med GPT Image 2
Research answer
Key takeaways
- OpenAI stödjer Web of Biological Data Act, AI Ready Bio Data Standards Act och Scale Biology Act, som ska förbättra data, standarder och kapacitet för biosäkerhet.
- Bolaget stödjer också en bestämmelse i FRONTIER Act som skulle kräva att ledande AI företag använder oberoende säkerhetsutvärderare.
- Stödet gäller inte hela FRONTIER Act, och inget av förslagen har blivit lag.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What bipartisan U.S. Congressional bills and provisions is OpenAI endorsing to reduce the risk that advanced AI models could accelerate biol. Article summary: OpenAI is backing a bipartisan, two-track congressional agenda: strengthen the biological-data and screening infrastructure needed to detect and counter AI-enabled pathogen risks, and impose independent safety scrutiny o. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
OpenAI stödjer ett partipolitiskt brett paket av lagförslag i USA:s kongress som ska minska risken för att avancerade AI-system påskyndar utvecklingen av biologiska vapen eller syntetiska virus. Företagets linje har två delar: bättre data och forskning för biosäkerhet samt extern granskning av de mest kraftfulla AI-modellerna. Förslagen behandlas fortfarande i kongressen och är alltså inte gällande lag. 17
23
Tre förslag om biologiska data
OpenAI ställer sig bakom följande lagförslag:
- Web of Biological Data Act
- AI-Ready Bio-Data Standards Act
- Scale Biology Act
Enligt rapporteringen ska paketet förbättra tillgången till biologiska data som behövs för att bygga försvar mot både syntetiska och naturligt förekommande biologiska hot. Det ska också skapa standarder för en säker utveckling av sådana verktyg. 23 OpenAI säger att syftet är att förhindra att AI-modeller förstärker hotet från biologiska vapen och syntetiska virus.
17
Extern säkerhetskontroll av AI-modeller
Bolaget stödjer dessutom en specifik bestämmelse i det partipolitiskt breda lagförslaget FRONTIER Act i representanthuset. Bestämmelsen skulle kräva att ledande AI-företag anlitar oberoende utvärderare för att bedöma modellernas säkerhet.
Det är viktigt att skilja på detta och ett stöd för hela lagförslaget: OpenAI har uttryckligen ställt sig bakom kravet på externa utvärderare, inte FRONTIER Act i dess helhet. 35
39
OpenAI anser att betrodda tredjeparter kan ge ytterligare underlag för påståenden om en modells kritiska förmågor och skyddsåtgärder. Extern testning kan därmed synliggöra blinda fläckar och ge större insyn i riskerna. 8
9
Varför kopplas biologiska data till AI-säkerhet?
Lagstiftningspaketet angriper samma risk från två håll.
För det första behövs tillgängliga biologiska data av god kvalitet och gemensamma standarder för att forskare och institutioner ska kunna upptäcka och hantera biologiska hot. De tre lagförslagen om biodata är inriktade på denna defensiva infrastruktur. 23
För det andra ska AI-utvecklarnas egna säkerhetspåståenden inte vara den enda kontrollmekanismen. Oberoende bedömningar ska pröva både vad mycket avancerade modeller kan göra och om de skydd som företagen infört fungerar som avsett. 8
9
Tanken är alltså inte enbart att begränsa en AI-modell efter lansering, utan också att stärka samhällets biologiska försvar och testa riskfyllda förmågor innan de kan missbrukas i större skala.
Växande oro för AI-stött biologiskt missbruk
Bakgrunden är en bredare oro för att kraftfull AI kan sänka trösklarna för skadlig biologisk verksamhet. Anthropic har uppgett att företaget identifierat och stoppat skadlig användning av sin AI-modell som skulle kunna stödja utveckling av biologiska vapen. 19
Samtidigt har flera ledare för stora AI-laboratorier – däribland OpenAI:s vd Sam Altman, Anthropics vd Dario Amodei och Google DeepMinds vd Demis Hassabis – enligt rapportering undertecknat ett brev som uppmanar kongressen att kräva skyddsåtgärder vid beställningar av syntetiskt DNA och RNA. 20 Kravet gäller screening och spårbarhet i en central del av bioteknikens leveranskedja.
Detta visar inte att AI på egen hand har skapat ett biologiskt vapen. Men det förklarar varför fokus ligger både på hur modeller beter sig och på de system runt omkring som möjliggör biologiskt arbete.
Del av en större agenda för federala regler
OpenAI:s stöd för biosäkerhetsförslagen ingår i företagets bredare uppmaning till nationella, bindande regler för de mest avancerade AI-systemen i USA. I september sade bolaget att det vill samarbeta med kongressen om obligatoriska regler som utgår från AI-systemens faktiska kapacitet, eftersom frivilliga åtaganden inte anses räcka när AI kan påskynda AI-utveckling. 3
18
OpenAI har pekat på riskbedömningar, oberoende granskning, cybersäkerhetsskydd och rapportering av allvarliga säkerhetsincidenter som delar av ett ansvarsfullt regelverk. 3
6
Företagets chefsforskare Jakub Pachocki har också enligt BBC förespråkat frivilliga inbromsningar i AI-utvecklingen tills tillräckliga skyddsåtgärder finns på plats. 19
Vad stödet betyder – och inte betyder
OpenAI förespråkar i praktiken en skiktad federal strategi:
- Stärk biologiska data och standarder genom Web of Biological Data Act, AI-Ready Bio-Data Standards Act och Scale Biology Act.
- Kräv oberoende säkerhetsgranskning av ledande AI-utvecklare genom den bestämmelse i FRONTIER Act som bolaget stöder.
- Inför bindande nationella regler för frontlinje-AI, i stället för att enbart förlita sig på företagens frivilliga löften.
17
35
Det är ett politiskt ställningstagande, inte en garanti för att lagförslagen antas eller att åtgärderna helt eliminerar risken för biologiskt missbruk. Men det klargör att OpenAI ser AI-relaterad biosäkerhet som både en fråga om biologisk infrastruktur och om styrning av de mest avancerade AI-modellerna.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI vill se starkare biosäkerhet och oberoende tester av avancerad AI"?
OpenAI stödjer Web of Biological Data Act, AI Ready Bio Data Standards Act och Scale Biology Act, som ska förbättra data, standarder och kapacitet för biosäkerhet.
What are the key points to validate first?
OpenAI stödjer Web of Biological Data Act, AI Ready Bio Data Standards Act och Scale Biology Act, som ska förbättra data, standarder och kapacitet för biosäkerhet. Bolaget stödjer också en bestämmelse i FRONTIER Act som skulle kräva att ledande AI företag använder oberoende säkerhetsutvärderare.
What should I do next in practice?
Stödet gäller inte hela FRONTIER Act, och inget av förslagen har blivit lag.