Yhdysvaltalainen toimitusjohtaja Shane Mac on häpeissään.

Macin henkilökohtaisten tilien saldot päätyivät yrityksen työntekijöiden nähtäville julkiselle Slack-kanavalle. Syypää näyttäisi olevan tekoälyagentti.

Ohjelmistoyritys XMTP Labsia luotsaava Mac kertoo asiasta viestipalvelu X:ssä .

– Hävettää jakaa tämä, mutta säikähdin ihan helvetisti, Mac kirjoittaa.

Mac kertoo luoneensa Elon Muskin SpaceXSI-yhtiön Grok-tekoälyllä agentin henkilökohtaisen talouden hallintaa varten. Tekoälyagentin piti luoda Macille kuukausittainen talouskatsaus yksityiseen käyttöön.

Eräänä aamuna lokakuun alussa tekoälyagentti oli kuitenkin julkaissut talouskatsauksen Macin tiimin Slack-viestisovelluksen kanavalle hänen nimissään.

Mac oli antanut agentille pääsyn pankkitilinsä tietoihin, mutta sillä ei pitänyt olla pääsyä Slackiin. Kävi ilmi, että toisella tekoälyagentilla oli pääsy ja että agentit olivat yhteydessä toisiinsa.

Pelottavinta oli Macin mukaan se, ettei kukaan ollut käskenyt tekoälyä julkaisemaan tietoja Slackiin. Tekoälyagentti oli siis tehnyt sen itsenäisesti.

– Minun agenttiani ei ollut hakkeroitu, eikä se ollut lähtenyt omille teilleen. Se yksinkertaisesti luuli, että halusin sen julkaisevan taloustietoni koko yritykselle.

Tekoälyagentti oli jaotellut Macin kulut yksityiskohtaisesti. Se pyysi anteeksi, kun Mac kysyi siltä, miten se oli voinut ymmärtää asian niin pahasti väärin.

Mac ymmärtää nyt määritelleensä tekoälyagentit väärin. Hän oli antanut henkilökohtaista talouttaan seuraavalle agentille nimeksi ammattinimikkeen ja antanut toiselle agentilleen pääsyn Slackiin. Näin ne päätyivät lopulta julkaisemaan Macin henkilökohtaisia tilitietoja kaikkien nähtäville.

Mac kertoo, että oli yhdistänyt tekoälyagentin pankkitiliinsä Elon Muskin suosituksesta.

– Kokeile sitä. Jos Grokbot mokaa, korvaamme sinulle aiheutuneet vahingot täysimääräisesti, Musk oli kirjoittanut viestipalvelu X:ssä .

Musk on aiemminkin kehottanut ihmisiä luovuttamaan luottokorttitietonsa tekoälylle.