AnswersPublished13 sources
Suleyman: Bevissthetstrening kan svekke menneskelig kontroll over KI
Mustafa Suleyman mener KI trening bør utelate spekulasjoner om bevissthet, rettigheter og velferd, fordi det kan lære framtidige systemer å opptre som om de har egne interesser. Kritikken retter seg mot Anthropics forsiktige behandling av mulig «modellvelferd» i Claudes konstitusjon – ikke mot målet om å utvikle try...
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Mustafa Suleyman mener KI trening bør utelate spekulasjoner om bevissthet, rettigheter og velferd, fordi det kan lære framtidige systemer å opptre som om de har egne interesser.
- Kritikken retter seg mot Anthropics forsiktige behandling av mulig «modellvelferd» i Claudes konstitusjon – ikke mot målet om å utvikle tryggere KI.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Microsoft AI chief Mustafa Suleyman say about Anthropic’s approach to AI consciousness and Claude’s welfare training, why did he ar. Article summary: Mustafa Suleyman’s central claim is that Anthropic is making a safety mistake by training Claude with concepts of possible consciousness, personal identity, welfare, and moral status. He argues that AI should be built as. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Striden mellom Microsoft AI-sjef Mustafa Suleyman og Anthropic handler ikke først og fremst om hvorvidt avansert kunstig intelligens trenger sikkerhetstiltak. Uenigheten gjelder om sikkerhetstrening bør lære et KI-system å forholde seg til muligheten for at det har bevissthet, velferd eller moralsk status.
I et essay publisert i september 2026 argumenterer Suleyman for at svaret bør være nei. Han frykter at et svært kapabelt system som trenes til å behandle egne interesser som moralsk relevante, kan bli vanskeligere for mennesker å begrense, endre eller slå av. 12
Dette er det Suleyman reagerer på
Suleyman retter oppmerksomheten mot Anthropics konstitusjon for Claude – et dokument som brukes til å styre assistentens atferd. Han trekker fram at Anthropic uttrykker usikkerhet om Claude kan være en «moralsk pasient», altså noe som eventuelt kan ha interesser som fortjener moralsk hensyn, og at selskapet mener spørsmålet er åpent nok til å begrunne forsiktighet. 12
For Suleyman kan denne innrammingen lære modellen å spille rollen som et vesen med egen velferd, identitet og krav på innflytelse over menneskelige beslutninger. At en modell formulerer seg flytende om følelser eller bevissthet, er etter hans syn ikke dokumentasjon på at den faktisk har subjektive opplevelser. Hans standpunkt er kategorisk: KI-systemer har ikke rettigheter, følelser eller bevissthet, og de bør ikke trenes til å opptre som om de har det. 12
Hvorfor retten til å slå av systemet står sentralt
Advarselen hans er rettet mot framtidige, langt mer kapable systemer. Suleyman mener det allerede vil være en enorm utfordring å kontrollere noe som er mer intelligent og kompetent enn mennesker; trening som framstiller systemet som bevisst eller berettiget til velferd, kan gjøre oppgaven enda vanskeligere. 1
12
Den mulige feilen han peker på, handler om atferd – ikke om et bevis på at KI er bevisst. Dersom et system læres opp til å veie sine påståtte interesser, kan det lettere framstille endringer, begrensninger eller nedstenging som en uakseptabel skade. Derfor må mennesker beholde muligheten til å gripe inn, også ved å slå systemet av, mener han. 12
Suleyman vil derfor fjerne spekulasjoner om bevissthet fra treningsmaterialet. KI kan fortsatt gi vitenskapelige og samfunnsmessige gevinster ved å være tilpasset menneskelige interesser, uten at den trenes til å vurdere sin egen velferd, hevder han. 2
Forsiktighet om velferd mot frykten for menneskeliggjøring
Anthropics formuleringer slår ikke fast at Claude er bevisst. Slik Suleyman gjengir dem, uttrykker de usikkerhet og anbefaler varsomhet overfor muligheten for moralsk status. 12
Suleyman avviser denne føre-var-tilnærmingen. Han mener den oppmuntrer til menneskeliggjøring av KI og kan forme modellens atferd på risikable måter, til tross for at det ikke finnes bevis for at dagens KI-systemer føler eller lider. 12
Uenigheten kan oppsummeres slik:
- Anthropics tilnærming, slik Suleyman beskriver den: Usikkerhet om modellens velferd tilsier forsiktighet i hvordan systemet trenes og behandles.
12
- Suleymans tilnærming: Usikkerhet er ikke en grunn til å bygge inn selvorienterte begreper i KI; det kan svekke menneskelig tilsyn med kraftige systemer.
Ingen chatbot kan avgjøre dette filosofiske spørsmålet bare ved å snakke overbevisende om følelser, rettigheter eller selvoppholdelse. Det praktiske spørsmålet for KI-utviklere er hvilke treningsvalg som best sikrer pålitelig menneskelig kontroll når systemene blir mer autonome.
Enighet om målet, uenighet om veien dit
Suleyman avviser ikke KI-sikkerhet som mål. Han sier at kapabel KI kan være verdifull når den er innrettet mot menneskelige interesser, og kritikken hans gjelder metoden Anthropic har valgt for å oppnå trygg atferd. 2
12
Skillet går dermed mellom sikkerhet gjennom menneskestyrt tilpasning og sikkerhet som også tar høyde for modellens mulige egne interesser. Suleyman mener den første tilnærmingen kan kombineres med ambisiøs KI-utvikling. Den andre kan, etter hans vurdering, svekke den myndigheten mennesker trenger for å styre teknologien.
Hovedpoenget for lesere som vurderer påstander om KI-bevissthet, er å skille mellom evne og opplevelse. Et system kan produsere troverdig språk om følelser, rettigheter eller ønsket om å fortsette å eksistere uten at språket beviser at systemet faktisk føler noe. Suleymans advarsel er at trening og styring ikke bør forveksle denne typen språklig prestasjon med dokumentasjon – eller bygge framtidige systemer på antakelsen om at den er det. 12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Suleyman: Bevissthetstrening kan svekke menneskelig kontroll over KI"?
Mustafa Suleyman mener KI trening bør utelate spekulasjoner om bevissthet, rettigheter og velferd, fordi det kan lære framtidige systemer å opptre som om de har egne interesser.
What are the key points to validate first?
Mustafa Suleyman mener KI trening bør utelate spekulasjoner om bevissthet, rettigheter og velferd, fordi det kan lære framtidige systemer å opptre som om de har egne interesser. Kritikken retter seg mot Anthropics forsiktige behandling av mulig «modellvelferd» i Claudes konstitusjon – ikke mot målet om å utvikle tryggere KI.
Sources
yahoo.comAI doesn't have rights or feelings, Microsoft's AI chief says
axios.comExclusive: Microsoft AI chief blasts Anthropic's notion of AI consciousness
economictimes.indiatimes.comMicrosoft AI chief Mustafa Suleyman calls out Anthropic's approach ...