AnswersPublished23 sources
«Ikke bygg bevisst superintelligens», sier Mustafa Suleyman
I et innlegg 1. november argumenterte Mustafa Suleyman for at dagens AI systemer ikke viser tegn til bevissthet, og at det ville være uforsvarlig å prøve å skape bevisst AI.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- I et innlegg 1. november argumenterte Mustafa Suleyman for at dagens AI systemer ikke viser tegn til bevissthet, og at det ville være uforsvarlig å prøve å skape bevisst AI.
- Han mener utviklere bør stanse AI utviklingen dersom tegn på bevissthet oppstår under trening, og at funn må deles offentlig.
- Uenigheten med Anthropic handler blant annet om hvorvidt utviklere bør ta mulig AI bevissthet og modellvelferd med i betraktningen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What arguments did Microsoft AI CEO Mustafa Suleyman make in his Sunday, November 1 X post, “Don’t build conscious superintelligence,” for w. Article summary: Suleyman’s central position was that today’s AI systems lack consciousness, subjective experience and suffering, and that deliberately developing conscious AI would be reckless—not a necessary step toward useful AI. His . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Microsoft AI-sjef Mustafa Suleyman mener kunstig intelligens ikke trenger å være bevisst for å være nyttig. I et innlegg på X 1. november, med tittelen «Don’t build conscious superintelligence», argumenterte han for at dagens AI-systemer ikke viser tegn til bevissthet, og at utviklere ikke bør forsøke å lage bevisste systemer. 2
3
Han mener også at utviklingen bør stanses dersom bevissthet ser ut til å oppstå under trening. Det er en føre-var-linje i en debatt der det fortsatt er uenighet om hvordan – eller om – man kan fastslå at en AI har en subjektiv opplevelse.
«Ikke bevisst i dag» er ikke det samme som «aldri»
Suleyman sier at dagens AI-modeller ikke føler, har subjektive opplevelser eller kan lide. Han har understreket at han snakker om systemene slik de er nå, og at han vil endre syn dersom det kommer fram nye bevis. 3
4
18
Skillet er viktig: Dette er hans vurdering av det tilgjengelige kunnskapsgrunnlaget, ikke en fastslåelse av at maskiner aldri kan bli bevisste. At en modell kan skrive overbevisende om smerte eller følelser, viser heller ikke i seg selv at den har en indre opplevelse, mener han. 1
22
Hvorfor han mener bevisst AI er en risiko
Suleymans innvending handler både om mulig lidelse og om kontroll. Han mener utviklere ikke bør skape en ny type bevisst vesen uten at samfunnet har samtykket til det. 2
5
Han advarer også mot å trene modeller til å forstå seg selv som bevisste eller som vesener med egne velferdsinteresser og rettigheter. Slik trening kan, ifølge Suleyman, gjøre det vanskeligere å holde avanserte systemer under menneskelig kontroll. I september kritiserte han deler av Anthropics tilnærming til treningen av Claude og tok til orde for å fjerne spekulasjoner om bevissthet fra opplæringsmaterialet. 20
22
39
Dette er Suleymans argumenter om risiko. Kildene fastslår ikke at AI-systemer er bevisste, eller at det å diskutere modellvelferd i seg selv fører til problemene han advarer mot.
Dette vil han gjøre hvis tegn dukker opp
Hvis bevissthet begynner å vise seg under trening, sier Suleyman at AI-utviklingen bør stanses til de aktuelle egenskapene kan «designes bort». Han mener også at eventuelle bevis på maskinbevissthet må legges fram raskt, slik at samfunnet kan ta stilling til veien videre. 2
7
13
Det er et forslag om å være føre var, ikke dokumentasjon på at forskere allerede har en sikker metode for å oppdage eller fjerne bevissthet. Kildene beskriver hva Suleyman vil gjøre, men ikke hvordan en slik pause eller fjerning skulle gjennomføres i praksis.
Uenigheten med Anthropic
Debatten handler blant annet om hvordan AI-selskaper bør forholde seg til usikkerhet. Anthropic har sagt at det er mulig at AI kan være bevisst, og har vurdert spørsmål om modellvelferd. Suleyman mener på sin side at slike ideer i modelltrening kan skape risiko. 41
43
Anthropic har også innført regler mot å behandle Claude på en grusom måte. Ifølge omtalen bruker den aktuelle policyen likevel ikke uttrykket «modellvelferd». Det er heller ikke det samme som at selskapet har slått fast at Claude er bevisst. 41
Kildene her gir ikke grunnlag for en detaljert sammenligning med Google DeepMinds forskning på bevissthet. Den tydeligste motsetningen er mellom Anthropics vilje til å vurdere mulig modellvelferd og Suleymans ønske om å holde AI ikke-bevisst med vilje.
Hva argumentet sier – og ikke sier
Suleymans hovedpoeng er at nyttig AI ikke trenger bevissthet. Derfor bør utviklere unngå å forsøke å skape den og reagere dersom tegn skulle oppstå. Han framstiller dette som et hensyn til både sikkerhet og mulig velferd, samtidig som han sier at nye bevis kan endre vurderingen hans. 7
18
Uenigheten dreier seg dermed ikke bare om hva dagens modeller kan gjøre, men om hvor mye vekt utviklere bør legge på en framtidig mulighet. Suleyman mener språk om følelser ikke er bevis på opplevelser; Anthropic mener muligheten er verdt å ta med i vurderingen. Kildene dokumenterer uenigheten, men avgjør ikke om AI kan bli bevisst.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "«Ikke bygg bevisst superintelligens», sier Mustafa Suleyman"?
I et innlegg 1. november argumenterte Mustafa Suleyman for at dagens AI systemer ikke viser tegn til bevissthet, og at det ville være uforsvarlig å prøve å skape bevisst AI.
What are the key points to validate first?
I et innlegg 1. november argumenterte Mustafa Suleyman for at dagens AI systemer ikke viser tegn til bevissthet, og at det ville være uforsvarlig å prøve å skape bevisst AI. Han mener utviklere bør stanse AI utviklingen dersom tegn på bevissthet oppstår under trening, og at funn må deles offentlig.
What should I do next in practice?
Uenigheten med Anthropic handler blant annet om hvorvidt utviklere bør ta mulig AI bevissthet og modellvelferd med i betraktningen.
Sources
hyper.aiMicrosoft AI CEO Warns Against Building Conscious AI
latimes.comMicrosoft AI CEO warns industry against trying to build ...
in.mashable.comMicrosoft AI Chief Mustafa Suleyman Says Giving AI Rights Could Be A Dangerous Mistake
tech.yahoo.comMicrosoft AI CEO warns industry against trying to build ...