Microsoftin toimitusjohtaja Satya Nadella vaatii, että tehokkaille tekoälymalleille rakennetaan ”hätäjarru”. Valtuutetun ihmisen pitäisi aina voida keskeyttää malli tai sammuttaa se kesken tehtävän. Nadella julkaisi kirjoituksensa X-palvelussa 10.10.2026.
Kirjoituksen otsikko on Models as Insider Risks in the Super Intelligence Era. Nadellan mukaan tekoälymalleja pitäisi kohdella kuin sisäpiirin riskiä. Syy ei ole se, että mallit olisivat pahantahtoisia, vaan se, että mikä tahansa tarpeeksi kyvykäs toimija voi tehdä virheitä tai joutua väärinkäytön kohteeksi, jos sillä on pääsy tärkeisiin järjestelmiin.
Seitsemän periaatetta
Nadella ehdottaa, että tekoälyjärjestelmät rakennetaan läpinäkyvyyden periaatteille:
- Useita malleja. Yksikään malli ei saa olla ainoa riippuvuus tärkeälle lopputulokselle eikä tarkistaa omaa työtään.
- Kaikki näkyviin. Jokaisesta merkittävästä toimesta on jäätävä ihmisen luettava jälki, jota ei voi muuttaa jälkikäteen.
- Jatkuva testaus. Myös virheitä ja hyökkäyksiä on testattava, ei vain onnistuneita tehtäviä.
- Riippumattomat rajat. Organisaatio päättää itse, mihin malli pääsee ja mitä se saa tehdä.
- Riippumaton valvonta. Mallin toimintaa ei saa tarkistaa sama tekoäly, jota valvotaan.
- Eristys ja hätäjarru. Mallin on oletettava jo valmiiksi vaarantuneen, ja ihmisen on voitava pysäyttää se.
- Häiriöistä kerrotaan. Kun jokin menee vikaan, siitä on kerrottava nopeasti niille, joita asia koskee.
Nadella korostaa, ettei vastuuta voi siirtää mallin valmistajalle. Hänen mukaansa luotettavin järjestelmä ei ole se, jonka malliin luotetaan eniten, vaan se, jossa malliin tarvitsee luottaa mahdollisimman vähän.
Mitä tämä tarkoittaa sinulle?
- Kyse on linjauksesta, ei uudesta tuotteesta. Kirjoitus koskee ennen kaikkea yrityksiä, jotka antavat tekoälyagenteille pääsyn järjestelmiinsä.
- Samat periaatteet sopivat kotikäyttöön. Jos annat tekoälyagentille pääsyn sähköpostiisi tai tileihisi, anna vain tarvittavat oikeudet, tarkista mitä agentti tekee ja varmista, että voit perua pääsyn milloin tahansa.
- Microsoft on Copilotin valmistaja. Linjaus voi näkyä myöhemmin myös Copilotin hallinta- ja valvontaominaisuuksissa, mutta tästä ei ole kerrottu mitään.
Lue lisää: Mitä on agenttinen tekoäly? Selkokielinen opas tekoälyagentteihin
Lähde: Satya Nadella: Models as Insider Risks in the Super Intelligence Era (X, 10.10.2026)
