Anthropicin tekoälylle ei saa enää olla ilkeä
Ääritapauksissa jotkut käyttäjät voidaan sulkea pysyvästi yhtiön tekoälyjärjestelmien ulkopuolelle.
Tekoälyyhtiö Anthropic kielsi lokakuussa käyttäjiään kohdistamasta jatkuvaa loukkaavaa tai julmaa käytöstä Claude-tekoälyynsä. Ääritapauksissa käyttäjä voidaan sulkea pysyvästi Anthropicin tekoälyjärjestelmien ulkopuolelle. Redditin entinen toimitusjohtaja Yishan Wong arvioi viestipalvelu X:ssä, että kiellon syynä on Clauden oppiminen käyttäjien julmuudesta.
William & Mary -yliopiston tekoälytutkimuslaboratorion puheenjohtaja Jindong Wang kertoo, että tutkimusten mukaan kehotusten sävy voi vaikuttaa tekoälyn käyttäytymiseen. Tekoälyjätti Anthropic kieltää toistuvan huonon käytöksen tekoälymallejaan kohtaan, uutisoi CNN .
Yhtiön kehittämän Claude-tekoälyn käyttösääntöihin tehtiin lokakuussa lisäyksiä. Säännöt kieltävät muun muassa tekoälyn hyödyntämisen biologisten aseiden valmistuksessa tai laittomien huumeiden myynnissä. Joukossa on kuitenkin myös huomiota herättävä kielto: tekoälymalleihin ei saa kohdistaa ”jatkuvaa ja tarpeetonta loukkaavaa tai julmaa käytöstä”.
Claudella on ollut viime vuodesta
Claudella on ollut viime vuodesta lähtien mahdollisuus lopettaa keskustelu käyttäjän kanssa, jos tämä käyttäytyy jatkuvasti haitallisesti tai loukkaavasti. Uusien sääntöjen perusteella jotkut käyttäjät voidaan kuitenkin ääritapauksissa sulkea pysyvästi Anthropic-tekoälyjärjestelmien ulkopuolelle.
Uudet säännöt ovat herättäneet myös pilkkaa. Anthropicille on muun muassa ivailtu siitä, että se kohtelee tekoälyään kuin tietoista olentoa. Yhtiön edustaja kertoi CNN:lle, että ensisijaisesti Claude lopettaa edelleen keskustelun, jos käyttäjä käyttäytyy huonosti. Kiellon tarkoituksena ei ole kuitenkaan puuttua käyttäjien turhautumisen ilmaisuun, suorasukaiseen palautteeseen tai tekoälyn testaamiseen ja tutkimiseen.
Tekoälymalleja ei kouluteta ainoastaan ennen niiden julkaisemista, vaan niitä myös päivitetään jatkuvasti ja ne oppivat käyttäjien syötteistä. Asiantuntijoiden mukaan uusissa säännöissä on kyse muustakin kuin siitä, ettei yhtiö halua ihmisten kohtelevan tekoälyä ilkeästi.
