AnswersPublished16 sources
OpenAI, Anthropic dan Google DeepMind Dilaporkan Bincang Kerjasama Keselamatan AI
OpenAI, Anthropic dan Google DeepMind dilaporkan membincangkan cara mengutamakan keselamatan AI, tetapi Reuters tidak dapat mengesahkan laporan Bloomberg itu secara bebas dan syarikat terbabit tidak segera memberi res... Ketua dasar global OpenAI, Chris Lehane, berkata perbincangan itu telah berlangsung selama beber...
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- OpenAI, Anthropic dan Google DeepMind dilaporkan membincangkan cara mengutamakan keselamatan AI, tetapi Reuters tidak dapat mengesahkan laporan Bloomberg itu secara bebas dan syarikat terbabit tidak segera memberi res...
- Ketua dasar global OpenAI, Chris Lehane, berkata perbincangan itu telah berlangsung selama beberapa minggu dan berpendapat syarikat syarikat tersebut tidak memerlukan pengecualian undang undang antitrust untuk bekerja...
- Perbincangan itu berlaku ketika makmal AI utama dan penggubal undang undang AS memberi tumpuan lebih besar kepada risiko bencana AI, piawaian keselamatan bersama dan kemungkinan kewajipan persekutuan terhadap pembangun.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What collaboration are OpenAI, Anthropic, and Google DeepMind reportedly pursuing on AI safety, why have concerns about AI’s existential and. Article summary: OpenAI, Anthropic, and Google DeepMind were reportedly discussing joint work to prioritize AI safety, following calls by leading U.S. AI-lab heads to pause further development amid rising existential-risk concerns. [4] -. Topic tags: general, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait t
Laporan mengenai perbincangan antara OpenAI, Anthropic dan Google DeepMind menimbulkan persoalan penting bagi industri kecerdasan buatan (AI): mampukah pesaing langsung bekerjasama untuk keselamatan tanpa menyelaraskan tingkah laku komersial mereka?
Menurut laporan Bloomberg News yang dipetik Reuters, tiga syarikat itu sedang membincangkan usaha untuk mengutamakan keselamatan AI. Reuters berkata ia tidak dapat mengesahkan laporan tersebut secara bebas, manakala OpenAI, Alphabet dan Anthropic tidak segera menjawab permintaan untuk komen. 4
Apakah yang dilaporkan sedang dibincangkan?
Inisiatif yang dilaporkan itu melibatkan OpenAI, Anthropic dan Google DeepMind milik Alphabet yang meneroka kerjasama keselamatan AI. Ketua dasar global OpenAI, Chris Lehane, berkata syarikat-syarikat itu telah berbincang selama beberapa minggu. Beliau berpandangan mereka patut cuba bekerjasama untuk mengutamakan keselamatan. 4
Namun, butiran awam yang tersedia tidak menunjukkan adanya perjanjian muktamad, piawaian bersama yang khusus atau program keselamatan yang mengikat. Jadi, kedudukan yang lebih tepat ialah ini masih perbincangan yang dilaporkan, bukannya pengesahan bahawa rangka kerja rasmi rentas syarikat telah diterima pakai. 4
Mengapa kebimbangan tentang risiko bencana semakin memuncak?
Perbincangan itu timbul selepas pemimpin makmal AI utama di Amerika Syarikat menyeru agar pembangunan AI seterusnya dihentikan sementara, sekali gus meningkatkan perhatian terhadap risiko kewujudan atau existential risk daripada sistem yang semakin berkeupayaan. 4
Kebimbangan itu turut mempengaruhi perbahasan dasar. Reuters melaporkan semakin ramai penggubal undang-undang AS mahu peraturan AI baharu susulan amaran penyelidik Anthropic bahawa kemajuan AI yang pantas boleh membawa risiko pada tahap kepupusan manusia. 3
Anthropic pula sebelum ini menggesa makmal utama mempertimbangkan jeda pembangunan yang diselaraskan dan boleh disahkan sekiranya risiko meningkat. Syarikat itu berhujah bahawa sistem AI mungkin akhirnya dapat memperbaik diri sendiri lebih cepat daripada keupayaan masyarakat menguruskan kesannya. 15
Amaran ini merujuk kepada kemampuan dan risiko yang mungkin muncul pada masa depan, bukannya kesepakatan bahawa akibat sedemikian pasti berlaku. Namun, ia menjelaskan mengapa langkah perlindungan sukarela oleh syarikat, piawaian bersama dan pengawasan yang boleh dikuatkuasakan sedang dibahaskan serentak.
Isu antitrust: kerjasama keselamatan atau sekatan persaingan?
Halangan utama ialah undang-undang antitrust, iaitu undang-undang persaingan yang bertujuan menghalang pesaing daripada membuat pakatan yang menjejaskan pasaran. Kerjasama antara pesaing boleh mengundang penelitian, khususnya apabila syarikat-syarikat itu bersaing sengit untuk membangunkan dan melancarkan model AI canggih.
Lehane berkata beliau tidak percaya OpenAI, Anthropic dan Google DeepMind memerlukan pengecualian antitrust untuk menyelaras usaha keselamatan. 4 Pandangan itu dipertikaikan dalam perbahasan dasar yang lebih luas: Pengerusi Suruhanjaya Perdagangan Persekutuan AS (FTC), Andrew Ferguson, berkata orang ramai patut “sangat curiga” terhadap syarikat AI yang meminta pengecualian antitrust. Namun, pakar memberitahu Reuters bahawa undang-undang antitrust sedia ada mungkin sudah membenarkan penyelarasan untuk mengelakkan risiko bencana.
2
Bezanya penting. Ujian keselamatan bersama atau amalan pengurusan risiko yang sama boleh dianggap sebagai langkah melindungi orang ramai daripada mudarat. Sebaliknya, perjanjian untuk memperlahankan pembangunan dengan cara yang mengehadkan persaingan pasaran akan menimbulkan persoalan undang-undang dan dasar yang lebih rumit.
Sokongan terhadap undang-undang baharu
Lehane juga berkata OpenAI akan menyokong undang-undang bipartisan di AS yang bertujuan mengurangkan risiko AI pada tahap bencana. 4
Kenyataan itu seiring dengan perkembangan di Washington. Perunding Senat AS sedang mempertimbangkan kemungkinan mewujudkan “kewajipan berjaga-jaga” (duty of care), yang memerlukan pembangun AI menunjukkan bahawa mereka telah mengambil langkah munasabah untuk mengelakkan bahaya. Di bawah cadangan itu, Jabatan Perdagangan AS berpotensi meminta bukti dan menghantar juruaudit untuk menguji produk syarikat. 8
OpenAI juga sebelum ini menggesa supaya syarat keselamatan AI kebangsaan yang mandatori diperkenalkan, sambil berkata piawaian industri sepatutnya melangkaui Amerika Syarikat. 6
Perkara yang perlu diperhatikan selepas ini
Persoalan paling besar ialah sama ada perbualan yang dilaporkan ini akan berubah menjadi komitmen rasmi dan terbuka, dengan perlindungan yang jelas, penilaian bebas serta mekanisme pertanggungjawaban.
Buat masa ini, bukti menyokong kesimpulan yang lebih terhad: OpenAI, Anthropic dan Google DeepMind dilaporkan berada dalam perbincangan keselamatan ketika kebimbangan terhadap risiko AI canggih meningkat dan tekanan untuk piawaian bersama serta peraturan persekutuan semakin kuat. 4
Sebarang kerjasama pada masa depan mungkin akan dinilai melalui dua ukuran serentak: sama ada ia benar-benar menghasilkan perlindungan keselamatan yang bermakna, dan sama ada ia dilakukan tanpa menjadi saluran bagi pesaing untuk mengehadkan persaingan atas nama keselamatan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI, Anthropic dan Google DeepMind Dilaporkan Bincang Kerjasama Keselamatan AI"?
OpenAI, Anthropic dan Google DeepMind dilaporkan membincangkan cara mengutamakan keselamatan AI, tetapi Reuters tidak dapat mengesahkan laporan Bloomberg itu secara bebas dan syarikat terbabit tidak segera memberi res...
What are the key points to validate first?
OpenAI, Anthropic dan Google DeepMind dilaporkan membincangkan cara mengutamakan keselamatan AI, tetapi Reuters tidak dapat mengesahkan laporan Bloomberg itu secara bebas dan syarikat terbabit tidak segera memberi res... Ketua dasar global OpenAI, Chris Lehane, berkata perbincangan itu telah berlangsung selama beberapa minggu dan berpendapat syarikat syarikat tersebut tidak memerlukan pengecualian undang undang antitrust untuk bekerja...
What should I do next in practice?
Perbincangan itu berlaku ketika makmal AI utama dan penggubal undang undang AS memberi tumpuan lebih besar kepada risiko bencana AI, piawaian keselamatan bersama dan kemungkinan kewajipan persekutuan terhadap pembangun.
Sources
reuters.comOpenAI is working with Anthropic, Google on AI safety ...