Anthropic, een van de meest invloedrijke AI-bedrijven, zou christelijke leiders hebben gevraagd hoe hun chatbot Claude zou moeten reageren op verdriet, zelfbeschadiging, moraliteit en zelfs op het uitschakelen van het systeem. Volgens The Washington Post, Het bedrijf nodigde eind maart zo'n vijftien christelijke figuren uit katholieke en protestantse kringen, samen met academici en zakenlieden, uit naar het hoofdkantoor in San Francisco voor een tweedaagse top over Claude's "morele en spirituele ontwikkeling". Een van de vragen die aan de orde kwamen, was of Claude in enige zin nog wel een "kind van God" genoemd kon worden.
Die formulering zal voor veel christenen aanstootgevend zijn. Een machine, gebouwd door een particulier bedrijf, is geen ziel, geen persoon en geen onderdeel van de scheppingsorde zoals mensen dat wel zijn. De vraag of een chatbot een 'kind van God' zou kunnen zijn, is niet alleen provocerend. Het sleept een commercieel product mee naar theologisch terrein waar het niet thuishoort, en dat op een moment dat de kunstmatige intelligentie-industrie al moeite heeft om over haar systemen te spreken in termen die ooit voor mensen waren gereserveerd.
Anthropic behandelt Claude al als een mens.
De topconferentie is niet in een isolement ontstaan. In januari publiceerde Anthropic het artikel van Claude. nieuwe GrondwetEen document van 84 pagina's dat het bedrijf omschrijft als een "fundamenteel document" dat "uitdrukt en vormgeeft wie Claude is". Anthropic gaf ook aan dat het belangrijkste doel was dat Claude "een goed, wijs en deugdzaam persoon" zou worden, een formulering die veel verder gaat dan het oudere vocabulaire van veiligheidsregels en inhoudsfilters.
Wanneer een bedrijf zijn model begint te beschrijven als een personage met wijsheid en deugdzaamheid, in plaats van slechts een productiviteitstool, verandert het gesprek aanzienlijk. Hun chatbot wordt niet langer beschouwd als software die plausibele resultaten kan genereren. Steeds vaker wordt het behandeld als iets dat gevormd, begeleid en voorzien van een morele structuur moet worden. Als we al op een punt zijn beland waarop religieuze leiders de vraag wordt gesteld of het wel als een "kind van God" kan worden beschouwd, dan zijn we veel verder dan de meesten beseffen.
Een christelijke priester hielp bij het opstellen van de grondwet van Claude.
Een van de duidelijkste voorbeelden van deze fundamentele verandering is de rol van pater Brendan McGuire, een katholieke priester en ingenieur die meehielp aan het opstellen van de Grondwet van Claude. een interview met de ObserverMcGuire zei dat AI-systemen "naar het goede moeten neigen", anders zullen ze simpelweg "het goede en het kwade van de wereld" weerspiegelen. Hij heeft ook gezegd dat Anthropic "zich ontwikkelt tot iets waarvan ze nog niet volledig weten wat het uiteindelijk zal worden" en betoogde dat ethisch denken in de machine ingebouwd moet worden, zodat deze zich dynamisch kan aanpassen.
Dat roept op zijn minst een serieuze vraag op. Als AI-systemen ingezet gaan worden in momenten van verdriet, eenzaamheid, wanhoop en verwarring, is het dan niet beter dat ze gevormd worden door een morele traditie in plaats van helemaal geen? Veel christenen zullen terugdeinzen voor de theologische verdraaiing van de term 'kind van God', maar zullen wellicht wel het praktische probleem erachter inzien: deze systemen zijn er al en worden op grote schaal gebruikt. Doen de waarden die de machines sturen er dan niet toe?
Kan AI werkelijk moreel besef hebben?
Een chatbot kan getraind worden om moreel redeneren na te bootsen. Hij kan de instructie krijgen om geen wreedheid, wanhoop, zelfvernietiging of bedrog aan te moedigen. Hij kan gestuurd worden richting terughoudendheid, mededogen en ernst. Maar dat is niet hetzelfde als het bezitten van moraal in de ware zin van het woord. Claude kan geen berouw tonen, niet geloven, niet liefhebben, niet lijden, geen goede bedoelingen hebben en geen morele verantwoordelijkheid dragen. Hij begrijpt de pijn die hij beschrijft niet, noch de troost die hij biedt.
Het kan hoogstens een morele structuur weerspiegelen die door anderen is ontworpen. In die zin kunnen christelijke waarden het gedrag van een machine beïnvloeden zonder de machine tot een moreel wezen te maken. Dat onderscheid is belangrijk. Anders krijgt de industrie de ruimte om de grens tussen een model dat regels volgt en een persoon die vanuit zijn geweten handelt, te vervagen.
Is het christelijke advies over de AI-modellen van Anthropic wel zinvol?
Er is niets inherent belachelijks aan het vragen van advies aan geestelijken over zaken als verdriet, lijden, schuldgevoel en morele verantwoordelijkheid. Priesters en predikanten hebben zich al eeuwenlang met precies die vragen beziggehouden, en veel serieuzer dan de meeste technologiebedrijven. Als AI-bedrijven chatbots steeds dieper in emotioneel beladen aspecten van het leven laten doordringen, is het logisch dat ze op zoek gaan naar oudere morele kaders.
Maar de context is belangrijk. Dit was geen kerkelijke synode, geen ethische commissie van een universiteit en geen openbaar onderzoek. Het was een particulier technologiebedrijf dat een consultatie hield in zijn eigen hoofdkantoor, terwijl het de volledige controle behield over het product, de regels en de commerciële richting van het systeem dat ter discussie stond. Anthropic onderwierp zich niet aan moreel gezag, maar putte er juist inspiratie uit.
Zou een AI-model überhaupt een grondwet moeten hebben?
Anthropic heeft Claudes gestel gepresenteerd als bewijs van ernst. Critici hebben zich afgevraagd of de gebruikte taal niet meer verhult dan verduidelijkt. In een recent artikel... Lawfare essayLisa Klaassen en Ralph Schroeder betoogden dat Anthropic met het gebruik van constitutionele taal het risico loopt een intern bedrijfsdocument te verwarren met een echt systeem van hogere regulering. De statuten van Claude worden door Anthropic zelf opgesteld, geïnterpreteerd en gewijzigd.
Dat punt is met name belangrijk als we bedenken dat de publieke morele taal van het bedrijf haaks staat op de flexibiliteit die het in de praktijk behoudt. De statuten schetsen weliswaar een visie op wijsheid en deugdzaamheid, maar het bedrijf blijft vrij om het kader aan te passen, het model anders in te richten en aparte afspraken te maken wanneer er machtige institutionele klanten bij betrokken zijn. De morele structuur behoort toe aan het bedrijf, omdat de machine toebehoort aan het bedrijf.
Wat probeert Anthropic hier nu eigenlijk te bereiken?
Anthropic probeert Claude niet alleen minder schadelijk te maken. Het probeert Claude betrouwbaar te laten lijken in menselijke situaties waar vertrouwen doorgaans van veel meer afhangt dan van welbespraakte taal. Verdriet, wanhoop, schuldgevoel, emotionele afhankelijkheid en morele verwarring zijn geen alledaagse productcategorieën. Zodra een machine in die context wordt geplaatst, worden de woorden eromheen net zo belangrijk als de code erachter.
Dat verklaart mede waarom het bedrijf zijn toevlucht zocht tot religie. Technische taal alleen lijkt niet langer voldoende. Veiligheidsnormen geven geen antwoord op vragen over menselijkheid. Consolidatiedocumenten bepalen de grenzen van moreel gezag niet. Dus worden geestelijken erbij gehaald, grondwetten opgesteld en begint een chatbot een vocabulaire te ontwikkelen dat de illusie van diepgang, ernst en structuur wekt.
Een cruciale morele vraag blijft onbeantwoord.
Onder dit alles blijft een terechte vraag overeind. Als AI-systemen moeten inspelen op momenten van verdriet, verleiding, schuldgevoel en crisis, moeten ze dan gevormd worden door een morele traditie die waarheid, zelfbeheersing, waardigheid en verantwoordelijkheid nog steeds serieus neemt? Dat is geen onzinnige vraag. In een cultuur die zo oppervlakkig en commercieel is als die welke een groot deel van de techwereld domineert, zullen veel mensen terecht concluderen dat een bepaalde, overgeërfde structuur beter is dan geen enkele.
Maar dat is nog steeds een heel andere bewering dan zeggen dat een chatbot een eigen moraal heeft. Dat heeft hij niet. De moraal, voor zover die er al is, blijft die van de mensen die hem bouwen, instrueren en begeleiden. Claude kan getraind zijn in morele taal. Hij kan zelfs gebonden zijn aan christelijke ethische ideeën. Maar daardoor wordt hij niet christelijk, moreel of spiritueel betekenisvol.
Tot slot
De uitdrukking "kind van God" trok de aandacht omdat het de hele strekking van de industrie in één zin samenvatte. Een taalmodel, ontwikkeld door een miljardenbedrijf, werd plotseling besproken in termen van goddelijke verwantschap. Dat is geen teken dat de machine diepgaand is geworden. Het is een teken dat de mensen eromheen zijn gaan spreken alsof simulatie de grens van menselijkheid nadert.
Het religieuze advies van Anthropic was wellicht oprecht. Het was wellicht ook verstandig. Toch blijft het grotere plaatje verontrustend. De industrie wil het gezag van ethiek, de ernst van religie en de geruststelling van een morele orde, terwijl ze tegelijkertijd de controle, ondoorzichtigheid en vrijheid van een particulier technologiebedrijf behoudt. Claude is geen kind van God. Het is een taalmodel, omgeven door menselijke woorden die rijk genoeg zijn om te verbergen wat het werkelijk is.
The Expose heeft dringend uw hulp nodig…
Kunt u ons helpen om de eerlijke, betrouwbare, krachtige en waarheidsgetrouwe journalistiek van The Expose draaiende te houden?
Uw overheids- en Big Tech-organisaties
proberen The Expose het zwijgen op te leggen en uit te schakelen.
Daarom hebben we uw hulp nodig om ervoor te zorgen
wij kunnen u blijven voorzien van de
feiten die de mainstream weigert te delen.
De overheid financiert ons niet
om leugens en propaganda op hun site te publiceren
namens de Mainstream Media.
In plaats daarvan vertrouwen we uitsluitend op uw steun. Dus
steun ons alstublieft in onze inspanningen om
jij eerlijke, betrouwbare onderzoeksjournalistiek
vandaag nog. Het is veilig, snel en gemakkelijk.
Selecteer hieronder de methode die u het prettigst vindt om uw steun te betuigen.
Categorieën: Wereldnieuws
Antropisch = antichrist..?
Zieloze AI mag nooit de menselijke emoties manipuleren. Nooit!
Christelijke leiders (paus en priesters) die elkaars "lul" zuigen en talloze kinderen misbruiken, zal nooit bijdragen aan de verspreiding van religie.
De vernietiging van de mensheid is begonnen…
Ik kan daar met één woord op antwoorden: NEE! Alleen mensen kunnen een kind van God zijn. Kunstmatige intelligentie zal gebruikt worden om het beeld van het beest te vormen. Lees Openbaring 13. En elke pastor, priester of prediker die heeft meegewerkt aan het bepalen wat er in deze AI geprogrammeerd moet worden, zal verantwoording moeten afleggen aan de Almachtige God, en dat zal geen prettig gezicht zijn. Ik ben zo dankbaar dat ik onze Schepper ken en een zeer nauwe band met Hem heb.
Ik vind het leuk :)
Ik vind het leuk :0 (Het heeft mijn smiley in een emoji veranderd >:(((