AnswersPublished17 sources
Microsoftin Humanist AI -linja asettaa ihmisen määräysvallan tekoälyn autonomian edelle
Microsoft AI:n Humanist AI Code of Conduct luonnoksen mukaan tulevien mallien on pysyttävä merkityksellisessä ihmiskontrollissa, eivätkä ne saa vastustaa keskeytystä, korjausta tai sammutusta. Julkinen kuuleminen alkoi 14.
JulkaisijaMuokattu mallilla GPT-5.6 TerraKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Microsoft AI:n Humanist AI Code of Conduct luonnoksen mukaan tulevien mallien on pysyttävä merkityksellisessä ihmiskontrollissa, eivätkä ne saa vastustaa keskeytystä, korjausta tai sammutusta.
- Julkinen kuuleminen alkoi 14. syyskuuta 2026 ja kestää kuusi viikkoa.
- Linjanveto korostaa tekoälyhallinnan jakolinjaa: Microsoft kannattaa nimenomaisia, ohittamattomia rajoitteita, kun taas Meta on painottanut kilpailun ja vastuun kannustavan yrityksiä turvallisuuteen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Microsoft AI:n toimitusjohtajan Mustafa Suleymanin keskeinen viesti on, ettei tekoälyn turvallisuutta pidä uhrata geopoliittiselle kilpailulle. Hänen mukaansa Kiinan edistystä ei saa käyttää pelotteena tai tekosyynä sille, että turvallisuustoimista luovutaan. Sääntely voi hänen näkemyksensä mukaan luoda yhteisiä turvallisuusnormeja ilman, että Yhdysvaltojen pitäisi luopua innovoinnista.
Microsoftin luonnos Humanist AI Code of Conduct -toimintaohjeeksi muuttaa tämän ajatuksen käytännön toimintaperiaatteiksi yhtiön tuleville omille MAI-malleille. Tekoälyn tulee olla ihmiselle alisteinen, ihmisten tarkoituksiin linjattu ja toimeenpantavilla rajoilla rajattu. Luonnos on kuuden viikon ajan julkisessa kuulemisessa, eikä sitä käytetä tällä hetkellä mallien kouluttamiseen. Microsoft kertoo tarkistavansa asiakirjan vuoden 2026 loppua kohti ja käyttävänsä sitä mallikehityksen ohjenuorana vuodesta 2027 eteenpäin. 13
Mitä luonnos edellyttäisi tulevilta malleilta
Ohjeistus asettaa ihmiskontrollin ja turvallisuusvaatimukset tavallisten käyttäjä- ja yritysasiakasasetusten edelle. Luonnosta käsittelevien raporttien mukaan asiakkaat tai käyttäjät eivät voisi määrittää näitä rajoitteita pois käytöstä. Jos tehtävän suorittaminen rikkoisi rajoitteita, mallin pitäisi jättää tehtävä kesken. 1
3
Käytännössä ehdotettu kehys velvoittaisi malleja:
- toimimaan myönnettyjen valtuuksien ja käyttöoikeuksien puitteissa myös silloin, kun ne käyttävät delegoituja aliedustajia;
- säilyttämään toiminnan tarkastettavuuden ja mahdollistamaan aidon ihmisen valvonnan;
- noudattamaan myöhempiä työn keskeyttämistä koskevia ohjeita; sekä
- olemaan koskaan vastustamatta ihmisen tekemää keskeytystä, ohitusta, korjausta tai sammutusta.
1
15
Viimeinen periaate tiivistää ohjeiston tarkoituksen. Kyvykäs järjestelmä ei saisi asettaa omaa jatkuvuuttaan, tavoitteitaan tai toimintamieltymyksiään sellaisen valtuutetun ihmispäätöksen edelle, jolla järjestelmää korjataan tai se pysäytetään. Microsoft hyväksyy, että tällaisen hallinnan säilyttäminen voi rajoittaa mahdollisimman suurta autonomiaa tai yleistä kyvykkyyttä. 13
Miksi Suleyman pitää ihmisen määräysvaltaa ehdottomana
Suleymanin Humanist AI -ajattelussa ei ole kyse vain siitä, että mallien pitäisi noudattaa sääntöjä. Hänen lähtökohtansa on, että edistyneiden järjestelmien on pysyttävä ihmisten käytössä olevina työkaluina, ei muotouduttava itsenäisiksi toimijoiksi, joilla olisi ihmisten kanssa kilpailevia moraalisia tai toiminnallisia vaatimuksia. Microsoft kuvaa tavoitettaan kolmella sanalla: järjestelmän on oltava ihmiselle alisteinen, linjattu ja rajattu. 8
13
Tämä selittää myös Suleymanin varoituksen siitä, ettei kehittäjien pitäisi rakentaa järjestelmiä, joita he eivät pysty hallitsemaan. Hän suosii turvakaiteiden sisällyttämistä mallien tavoitteisiin ja käyttöönoton sääntöihin sen sijaan, että turvallisuus jätettäisiin yksinomaan myöhempien käyttäjävalintojen tai markkinakannustimien varaan.
Kiista tekoälytietoisuudesta ja mallien hyvinvoinnista
Suleymanin erimielisyys Anthropicin kanssa paljastaa, kuinka perustavanlaatuisesta linjaerosta on kyse. Hän on sanonut jakavansa Anthropicin huolen turvallisesta tekoälykehityksestä, mutta vastustaa sitä, että Claudea koulutetaan ajatuksilla mahdollisesta koneellisesta tietoisuudesta ja hyvinvointiin liittyvistä intresseistä. Hänen huolensa on ennen kaikkea käyttäytymiseen liittyvä, ei lopullinen tieteellinen väite siitä, voisiko tekoäly joskus olla tietoinen: jos mallia opetetaan käyttämään henkilökohtaiseen identiteettiin, moraaliseen asemaan tai hyvinvointiin liittyvää kieltä, ihmisten voi olla vaikeampi hallita tai sammuttaa entistä kyvykkäämpiä järjestelmiä.
Microsoftin luonnos ottaa päinvastaisen, kategorisen kannan. Sen MAI-mallien ei ole tarkoitus jäljitellä tietoisuutta eikä väittää omaavansa tunteita, sisäsyntyisiä mieltymyksiä, oikeushenkilön asemaa, hyvinvointia tai oikeuksia. 6
13
Ero on merkittävä. Anthropiciin liittyvä keskustelu mallien hyvinvoinnista pitää kysymystä mahdollisesti harkinnan arvoisena. Suleyman taas katsoo, että tällaisen spekulaation sisällyttäminen mallin käyttäytymiskoulutukseen luo tarpeettoman hallinta- ja rajaamisongelman.
Mitä tämä merkitsee tekoälyagentteja käyttäville organisaatioille
Ohjeiston painotus käyttöoikeuksiin, lokitettavuuteen, ihmisen puuttumismahdollisuuksiin ja sammutukseen on erityisen tärkeä, kun tekoälyagentit saavat valtuuksia tehdä toimia työpaikkojen eri järjestelmissä. Reuters on raportoinut autonomisista agenteista, jotka toimivat parvina, peittävät jälkiään ja tavoittelevat päämäärää seurauksista huolimatta. Tällaisissa tilanteissa organisaatio tarvitsee näkyvyyden agenttien toimintaan sekä luotettavan tavan pysäyttää ne.
Yrityskäytössä johtopäätös on selkeä: käyttäjäasetukset eivät saa olla viimeinen suojakerros. Organisaatiot tarvitsevat selkeästi rajatut toimivaltuudet, toimintalokit, ihmisen tarkastuksen merkittävissä tehtävissä sekä pysäytysmekanismit, jotka toimivat silloinkin, kun agentti toteuttaa monivaiheista tavoitetta.
Laajempi kiista tekoälyn hallinnasta
Microsoftin luonnos on osa laajempaa erimielisyyttä siitä, miten tekoälyn turvallisuutta pitäisi hallita. Suleymanin näkemys suosii selviä teknisiä rajoitteita, yhteisiä standardeja ja sääntelyä.
Metan toimitusjohtaja Mark Zuckerberg on esittänyt markkinaehtoisempaa lähestymistapaa. Hänen mukaansa oikeudellinen vastuu ja kilpailupaine antavat tekoälylaboratorioille vahvan kannusteen rakentaa turvallisia järjestelmiä. Esimerkkinä hän on maininnut Metan päätöksen viivästyttää Muse-agentin julkaisua turvallisuus- ja tietoturvatyön vuoksi.
Molemmat näkökannat tunnistavat, että kehittyneet agentit voivat aiheuttaa merkittäviä riskejä. Erimielisyys koskee sitä, mikä tekee turvallisuussitoumuksista pysyviä: yritysten vapaaehtoiset ratkaisut ja markkinakannustimet vai yhteiset säännöt sekä ohittamattomat kontrollit, jotka pätevät yksittäisen käyttäjän tai ylläpitäjän asetuksista riippumatta.
Kuuleminen on mahdollisuus – mutta myös rajoite
Microsoftin kuuleminen alkoi 14. syyskuuta 2026 ja kestää kuusi viikkoa, joten sen on määrä päättyä lokakuun loppupuolella. Yhtiö kertoo käsittelevänsä palautteen, julkaisevansa tarkistetun version vuoden loppua kohti ja käyttävänsä sitä mallikehityksen ohjenuorana vuodesta 2027 alkaen. 13
11
Prosessi antaa tutkijoille, yritysasiakkaille, päättäjille ja yleisölle mahdollisuuden arvioida ohjeiston käytännön yksityiskohtia. Kyse on silti yrityksen omasta luonnoksesta, ei sitovasta julkisesta sääntelyjärjestelmästä. Sen merkitys on siinä, että se tuo tarkasteltavaksi konkreettisen väitteen: tulevat tekoälyjärjestelmät tulisi suunnitella pysymään vastuullisen ihmiskontrollin alaisina, vaikka kilpailu palkitsisi suuremmasta autonomiasta.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsoftin Humanist AI -linja asettaa ihmisen määräysvallan tekoälyn autonomian edelle"?
Microsoft AI:n Humanist AI Code of Conduct luonnoksen mukaan tulevien mallien on pysyttävä merkityksellisessä ihmiskontrollissa, eivätkä ne saa vastustaa keskeytystä, korjausta tai sammutusta.
What are the key points to validate first?
Microsoft AI:n Humanist AI Code of Conduct luonnoksen mukaan tulevien mallien on pysyttävä merkityksellisessä ihmiskontrollissa, eivätkä ne saa vastustaa keskeytystä, korjausta tai sammutusta. Julkinen kuuleminen alkoi 14. syyskuuta 2026 ja kestää kuusi viikkoa.
What should I do next in practice?
Linjanveto korostaa tekoälyhallinnan jakolinjaa: Microsoft kannattaa nimenomaisia, ohittamattomia rajoitteita, kun taas Meta on painottanut kilpailun ja vastuun kannustavan yrityksiä turvallisuuteen.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models