Anthropicin kehittämä tekoäly Claude saa moraalista oppia papeilta. Anthropic kutsui maaliskuussa koolle viitisentoista katolista ja protestanttista vaikuttajaa neuvomaan, miten Claudelle saataisiin moraalista ja henkistä ohjausta. Asiasta kertoi ensimmäisenä peleistä ja tekniikasta kertova Muropaketti.

Nyt Claudelle luodaan ”perustuslakia”, säännöstöä, jonka pohjalta se toimii moraalisesti oikein. Tässä ohjaustyössä on Observer-lehden mukaan mukana eetikoita, kuten isä Brendan McGuire, piispa Paul Tighe Vatikaanin kulttuuri- ja opetusvirastosta sekä Santa Claran yliopiston teknologian etiikan johtaja Brian Patrick Green.

Isä Brendan McGuire johtaa Los Altoksessa Kaliforniassa seurakuntaa, jonka jäseninä on Silicon Valleyn tekoälytutkijoita. Hänellä on myös tekniikan alan tutkinto ja ennen papiksi ryhtymistään hän työskenteli Silicon Valleyssä johtotehtävissä.

McGuire ei kuitenkaan jättänyt täysin teknologiaa vaan on paneutunut pappina ollessaan uuden aallon teknologian eettisiin haasteisiin. Yhteistyössä Vatikaanin kulttuuri- ja opetusviraston sekä Santa Claran yliopiston kanssa hän on perustanut teknologiaa, etiikkaa ja kulttuuria tutkivan instituutin, joka vuonna 2023 julkaisi etiikan käsikirjan uudelle teknologialle.

Niinpä Anthropicin perustajiin kuuluva Chris Olah kääntyi McGuiren puoleen Clauden kehittämisessä.

— Käytännössä he pyysivät suoraan Vatikaanilta apua teollisuudelle, koska teollisuus etenee niin nopeaa rataa, McGuire kertoo Observerille.

Claudella ei sielua, mutta McGuiren mukaan ihmisten ja koneiden arvostelukyvyn kehittämisessä on samankaltaisuutta. Siihen vaaditaan toistoa, korjaamista ja altistumista.

— Sillä tavalla omatunto aidosti muodostuu, Mc Guire toteaa.

Anthropicin mukaan uskonnollisten äänien mukaan ottaminen Clauden kehittämiseen on osa laajempaa yritystä, joka on vasta aluillaan. Yhtiö aikoo ottaa katolisten tahojen lisäksi mukaan myös muita uskonnollisia yhteisöjä.

Nyt huhtikuussa Anthropic ilmoitti kehittämänsä uuden Claude Mythos -tekoälymallin olevan niin vaarallinen, että se annetaan vain muutaman valikoidun yhtiön käyttöön haavoittuvuuksien tutkimiseksi. Mythos pystyi löytämään tietoturvahaavoittuvuuksia ja väärissä käsissä toteuttamaan verkkohyökkäyksiä.

Lue myös:

Tekoälyn käyttö tekee meistä tyhmiä ja itsevarmoja – ja viisi muuta nostoa kirkon Heräys-huippuseminaarista