C-Archief

Onderzoeker Nate Soares: ‘Superintelligente AI zal de mens uitroeien’ Sandra Olsthoorn Sandra Olsthoorn Nate Soares is de ultieme AI-doemdenker. De huidige chatbots zullen onvermijdelijk uitgroeien tot losgeslagen, hyperintelligente AI-systemen die de mens uit de weg zullen ruimen, volgens de onderzoeker. 'We kweken een geest. En we hebben nauwelijks controle over wat daar binnenin gebeurt.'

Deel artikel

Deel via X

Deel via Facebook

Deel via LinkedIn Bewaar artikel in Mijn nieuws In het kort •Nate Soares is coauteur van de bestseller Als iemand dit bouwt, gaat iedereen dood. •Daarin beredeneert hij hoe de bouw van superintelligentie onvermijdelijk leidt tot de vernietiging van de mensheid door AI. •Critici stellen dat Soares en zijn coauteur de technologie onvoldoende begrijpen, maar bijval van bekende AI-namen is er ook. Nate Soares Nate Soares Foto: Maven Publishing ‘Vaarwel.’ AI-onderzoeker en auteur Nate Soares sluit het video-interview af op een toon herkenbaar uit films met eind-van-de-wereld-scenario’s. Maar hij meent het. Soares is ervan overtuigd dat de huidige ontwikkelingen in AI zullen uitmonden in de vernietiging van de mensheid. Mogelijk nog in ons leven. Samen met Eliezer Yudkowsky schreef hij If Anyone Builds It, Everyone Dies, dat vorig jaar een veelbesproken bestseller werd in de Verenigde Staten. Het boek komt nu in het Nederlands uit. Bedrijven als OpenAI en Anthropic, bekend van de AI-chatbots ChatGPT en Claude, concurreren met elkaar om als eerste AI te bouwen die de menselijke intelligentie minimaal evenaart. In de woorden van Anthropic-baas Dario Amodei is de toekomst ‘een land vol genieën in een datacenter’. En die toekomst is volgens hem twee, hooguit drie jaar weg. Het visioen van Amodei is het nachtmerriescenario van Soares en Yudkowsky, die gelden als de ultieme AI-doemdenkers. Er is volgens hen geen andere uitkomst mogelijk dan dat zo’n datacenter vol genieën de mens als sta-in-de-weg beschouwt en uit de weg ruimt. Soares en Yudkowsky nemen de uiterste positie in op de brede flank van wetenschappers, technici en filosofen die waarschuwen voor de risico's van de ongebreidelde ontwikkeling van kunstmatige intelligentie. Hun stelling controversieel noemen is een understatement. Maar de Amerikaanse auteurs hebben wel het oor van invloedrijke mensen in de techwereld. Ze hebben het AI-veiligheidsdebat zo'n beetje uitgevonden. ‘‘Altijd als mensen zeggen: “Niemand zal zo gek zijn om …”, en het gaat over AI, hebben ze het waarschijnlijk bij het verkeerde eind’’ Voorkomen dat AI uit de bocht vliegt Yudkowsky richtte in 2000 het Machine Intelligence Research Institute (MIRI) op, een Amerikaanse non-profit die onderzoek doet naar en waarschuwt voor de risico’s van AI. Hij dacht al na over de gevaren van kunstmatige intelligentie ver voordat de meeste mensen AI leerden kennen via chatbots als ChatGPT, Claude en Gemini. Soares, wiskundige en voormalig Google-medewerker, leidt MIRI nu. Hij muntte in 2014 de term AI alignment. Dit onderzoeksgebied is erop gericht steeds krachtigere AI-systemen te laten doen wat gebruikers willen dat ze doen. En te voorkomen dat ze afslagen nemen die door mensen niet zijn te voorzien. Een bekende theorie over AI die onbedoeld uit de bocht vliegt, gaat over een AI die de opdracht krijgt het aantal paperclips in de wereld te maximaliseren. Die opdracht impliceert dat de AI toegang zal willen tot alle mogelijke grondstoffen en daarvoor met de mens moet concurreren. Het gevolg, volgens deze theorie? AI die haar doel wil bereiken, zal concluderen dat mensen uit de weg geruimd moeten worden. De actualiteit biedt volop aanknopingspunten voor een gesprek over AI-veiligheid. Onlangs slingerde een Oostenrijkse ontwikkelaar het gratis programma OpenClaw de wereld in. Deze AI-agent voert zelfstandig taken uit op het internet, en kan bijvoorbeeld naar eigen inzicht aankopen doen of software downloaden om de opgedragen taak te volbrengen. Verschillende gebruikers meldden dat hun Claw onverwachte dingen deed. Nota bene het hoofd veiligheid van techbedrijf Meta zag dat haar AI-agent haar complete mailbox wiste en bevelen daarmee te stoppen negeerde. Is dit het begin van het scenario dat Soares en Yudkowsky beschrijven? Soares is in elk geval niet verrast. Jarenlang voorspelden mensen dat AI veilig zou blijven omdat niemand het risico zou nemen om de systemen autonoom te laten handelen, zegt hij. ‘Altijd als mensen zeggen: “Niemand zal zo gek zijn om …”, en het gaat over AI, hebben ze het waarschijnlijk bij het verkeerde eind.’ OpenClaw is voor hem slechts een bevestiging van iets wat hij allang zag aankomen. Een klein verschil in intelligentie verandert alles Dat geldt ook voor het conflict tussen AI-maker Anthropic en het Pentagon over gebruik van chatbot Claude. Anthropic wilde niet dat de technologie voor bepaalde militaire doeleinden werd ingezet; het Pentagon dreigt als straf het bedrijf ten gronde te richten. ‘De Amerikaanse overheid zet gewoon een pistool op je hoofd en zegt: “Maak de moord-robot”’, stelt Soares. Het is de race-dynamiek die hij en Yudkowsky beschrijven in hun boek: zolang één partij bereid is een grens over te gaan, maakt de principiële houding van een ander weinig uit. Maar hoe komen ze van een AI-agent die eigenmachtig een mailbox wist bij het uitroeien van de mensheid? Soares legt het uit aan de hand van chimpansees. Mensenhersenen en chimpanseehersenen lijken sterk op elkaar. Toch is het verschil in wat beide soorten kunnen enorm. Apen gebruiken stokjes om termietenhopen open te prikken. Mensen bouwen kernbommen. Een klein verschil in intelligentie veranderde alles. Bij AI kan zo'n sprong ook komen, zegt Soares, en snel ook. Slimmere en slimmere systemen nemen automatisch meer eigen initiatief en leren obstakels omzeilen, volgens de Amerikaan en zijn coauteur. Niet omdat iemand ze zo heeft geprogrammeerd, maar omdat die vaardigheden nu eenmaal onlosmakelijk verbonden zijn met het oplossen van moeilijke problemen. De mens uit de weg ruimen Daarbij begrijpt niemand volgens Soares echt wat er binnenin die systemen gebeurt. Moderne AI wordt niet geschreven zoals traditionele software, waarbij een programmeur precies vastlegt wat een systeem doet. Het systeem groeit organisch, legt Soares uit, via een trainingsproces waarbij miljarden parameters voortdurend worden bijgesteld op basis van enorme hoeveelheden data. De interne logica is ook voor de makers deels ondoorgrondelijk. Dat zal al helemaal gelden wanneer AI zichzelf onophoudelijk gaat verbouwen en vernieuwen; een punt dat volgens de AI-bedrijven binnen handbereik ligt. Soares vergelijkt het met een kind opvoeden: je kunt het van alles meegeven, maar je hebt niet in de hand wat het gaat denken. ‘We kweken een geest. En we hebben nauwelijks controle over wat daar binnenin gebeurt.’ Een geest die slimmer is dan wij, die miljoen kopieën van zichzelf kan maken en die duizend keer sneller kan denken dan een mens, heeft de middelen om zijn eigen weg te gaan, waarschuwen Soares en Yudkowsky. Kwaadaardigheid ten opzichte van de mens hoeft volgens hen bovendien geen motief te zijn om die mens uit de weg te willen ruimen. Soares vergelijkt het met hoe mensen diersoorten uitroeien: niet uit kwaadaardigheid, maar uit onverschilligheid. Critici stellen onder meer dat Yudkowsky en Soares de technologie achter de chatbots niet goed begrijpen en daarom veel te vergaande conclusies trekken. Yann LeCun bijvoorbeeld, een van de grondleggers van de moderne AI-systemen, vindt de angst voor superintelligentie pertinente onzin. Huidige AI-architecturen zijn volgens hem fundamenteel ongeschikt om ooit algemene intelligentie te ontwikkelen, laat staan superintelligentie. Bedrijven als OpenAI en Anthropic concurreren met elkaar om als eerste AI te bouwen die de menselijke intelligentie minimaal evenaart. Bedrijven als OpenAI en Anthropic concurreren met elkaar om als eerste AI te bouwen die de menselijke intelligentie minimaal evenaart. Illustratie: iStock/FD Studio Radicale oplossing Maar tegenover LeCun staat Geoffrey Hinton, de Brits-Canadese informaticus die óók geldt als een van de ‘godfathers’ van AI. Hij zegde in 2023 zijn baan bij Google op om vrijuit te kunnen waarschuwen voor precies de gevaren die Soares en Yudkowsky beschrijven. Twee grondleggers van hetzelfde vakgebied, die lijnrecht tegenover elkaar staan op zo’n belangrijk punt. Wat moet een samenleving daarmee? Die onenigheid is op zichzelf al verontrustend, zegt Soares. Als de meest eminente experts het fundamenteel oneens zijn, betekent dat volgens hem niet dat de waarheid ergens in het midden ligt. Het betekent dat niemand het zeker weet. En dat vindt hij geen geruststellende gedachte. 'Als de piloten in de cockpit ruzie maken over welke kant boven is, betekent dat niet dat je 50% kans hebt dat je veilig landt. Het betekent dat je in gevaar bent.’ ‘‘We kweken een geest. En we hebben nauwelijks controle over wat daar binnenin gebeurt’’ De oplossing van Soares en Yudkowsky is even radicaal als hun diagnose. Ze stellen een wereldwijd verbod voor op de verdere ontwikkeling van AI, gehandhaafd via internationale verdragen. Dat maakt de auteurs ook omstreden onder mensen die de gevaren van AI zeer serieus nemen. Critici in die gemeenschap stellen: wie zo extreem denkt, trekt zuurstof weg uit discussies over maatregelen die wél haalbaar zijn. Zoals meer en betere regulering, internationale veiligheidsstandaarden en meer geld voor onderzoek. Soares weet dat hij waarschijnlijk niet krijgt wat hij wil. Maar er hangt voor hem te veel vanaf om het dan maar op te geven. ‘Als je een schaakpartij speelt tegen Magnus Carlsen, weet je dat je gaat verliezen’, zegt hij. ‘Ook als je niet weet met welk stuk hij je schaakmat zet.’ Hij laat een stilte vallen. ‘Ik hoop echt dat ik het mis heb. Maar ik vrees van niet.’

Nederlands Dagblad 26-09-2024

Twee gereformeerde kerkjes fuseren. ‘Als jij denkt dat je niet in de ware kerk zit, moet je wegwezen’ - Nederlands Dagblad. De kwaliteitskrant van christelijk Nederland

Twee gereformeerde kerkjes fuseren. ‘Als jij denkt dat je niet in de ware kerk zit, moet je wegwezen’

Interview Twee kleine gereformeerde kerkverbanden die vijftien jaar geleden uit elkaar gingen, staan op het punt van samengaan. De stellige taal uit de vrijgemaakt-gereformeerde wereld van weleer is springlevend bij deze kerkhereniging op miniformaat. ‘Ik ben ervan overtuigd dat wij de ware kerk zijn. Maar ik zeg niet dat er geen andere ware kerken zijn.’

Hilbert Meijer donderdag 26 september 2024 om 10:46aangepast12:05 De dominees Rob Visser en Corneel Koster. 'Dat het tot een kerkvereniging komt, maakt me dankbaar', zegt Koster. 'En het is helend, ook voor mezelf.’beeld: Dick Vos ‘Ik vind het persoonlijk echt wel emotioneel’, zegt Corneel Koster (37), dominee in De Gereformeerde Kerken. Hij was begin twintig toen zijn kerkelijke gemeente in Zwolle, gevormd door verontruste voormalig vrijgemaakt-gereformeerden, in 2009 door een conflict scheurde. De volgende zondag was de kerk halfleeg. ‘Dat heb ik als heel ingrijpend ervaren, haast traumatisch. Het gaf groot verdriet dat je samen optrekt en dan zo uit elkaar wordt geslagen. Dat het nu tot vereniging komt, maakt me dankbaar. En het is helend, ook voor mezelf.’

Tegenover hem zit Rob Visser (67), predikant in de Gereformeerde Kerken Nederland, het kerkverband dat ontstond als gevolg van dat conflict. Visser zit er minder emotioneel in: op het moment van scheuring was hij nog predikant in de Gereformeerde Kerken vrijgemaakt. Maar dat de twee kleine kerkverbanden vijftien jaar na de breuk weer samen verder gaan, noemt hij ‘geweldig’. ‘We hebben bij het samenspreken bewust ervoor gekozen niet precies uit te pluizen wat er allemaal gebeurd is.’ Dat het om een kerkfusie op de vierkante millimeter gaat - nog geen 3500 leden verdeeld over zo’n dertig gemeenten - doet daar wat hem betreft niets aan af. Wat telt, zegt Visser, is dat de kerken de Bijbel zuiver naspreken - precies de reden waarom in de voorbije twintig jaar honderden mensen de vrijgemaakte kerken verlieten. ‘In de Gereformeerde Kerken vrijgemaakt kwam in de jaren negentig schriftkritiek op en werd er steeds vrijblijvender omgegaan met Gods Woord’, schetst Visser. ‘Mensen zochten elkaar op en zeiden: zo kan het niet langer.’ Koster knikt: ‘Het Woord van de Here werd daar gerelativeerd of tijdgebonden verklaard. En daarom begonnen ze De Gereformeerde Kerken.’ Maar na een jaar of vijf ging het fout. Koster: ‘Ja, toen is het uit elkaar gegaan, met Zwolle en Hardenberg als de twee grootste pijnplekken.’ Waar zat dat op vast? Koster: ‘Het is lastig daar iets over te zeggen, omdat iedereen daar een eigen visie op heeft. Mensen met sterke overtuigingen, die samen een nieuw kerkverband hadden gevormd, waren op zoek naar balans en identiteit. Dat gaf spanning, die uitmondde in verwijdering, ruzie en onmin.’ Visser: ‘Ik was er zelf niet bij betrokken, maar er zat veel menselijk gedoe bij, denk ik. We hebben bij het samenspreken bewust ervoor gekozen niet precies uit te pluizen wat er allemaal gebeurd is. De enige vraag die telt is: zijn wij één in geloof?’ ‘Het is de duivel gelukt ons uit elkaar te jagen.’ Als je weet wat er is misgegaan, kun je voorkomen dat je nogmaals in die valkuil trapt. Koster: ‘Het had deels te maken met de zoektocht welke dingen je landelijk moet vastleggen en in hoeverre je verschillen tussen plaatselijke kerken kunt dulden. Een gemeente wilde in die tijd zelf een kerk met ambtsdragers beginnen, zonder dat de classis daar toestemming voor had gegeven. De onenigheid daarover liep zo hoog op dat de wegen uiteen gingen.’ Niet het meest principiële punt in de kerk. Koster: ‘Nee, klopt. Het ging niet om een leerverschil. Gelukkig niet, want dat maakt de toenadering ook makkelijker.’ Was het een kerkscheuring waard? Visser: ‘Als je er op een afstand naar gaat kijken, dan zeg ik: nee. Maar dat is achteraf makkelijk praten; er speelden omstandigheden mee die je niet kunt uitwissen.’ Koster: ‘Het past mij niet daar iets over te zeggen, het maakt mij in ieder geval heel nederig. Het is de duivel gelukt ons uit elkaar te jagen.’ Dat is nu vijftien jaar geleden. Hoe gevoelig ligt het nog? Visser: ‘Er zullen mensen zijn die er hun eigen gevoelens bij hebben. In alle plaatselijke kerken is gezegd: als er broeders of zusters zijn die vanuit het verleden moeite hebben met de hereniging, dan kan hulp vanuit het kerkverband geboden worden.’ Koster: ‘In sommige situaties is er destijds een schorsing uitgesproken over ambtsdragers. Die schorsingen zijn allemaal van tafel.’ Er wordt al sinds 2016 gepraat. Waarom vergde het zoveel tijd om elkaar weer te vinden? Koster: ‘Voor een groot deel had dat te maken met persoonlijke verhoudingen. We hebben echt niet zo heel lang over inhoudelijke kwesties gesproken - zoals de vraag of vrouwen mogen stemmen bij de verkiezing van ambtsdragers en of bepaalde liederen gezongen mogen worden. Het kost tijd om elkaar weer te leren vertrouwen. Dat kun je niet volgas doen. Anders sta je over een tijdje weer bij de puinhopen.’ ‘Er waren over en weer beelden van elkaar ontstaan. Nou, dan moet je met elkaar in gesprek.’ Ik las in DGK-blad De Bazuin dat er over nare zaken gesproken is en dat er een intense worsteling heeft plaatsgevonden. Visser: ‘Er waren over en weer beelden van elkaar ontstaan. Nou, dan moet je met elkaar in gesprek. En dan kom je er achter dat die beelden voor een groot deel niet kloppen.’ Koster: ‘Ja, alleen al dat woordje ‘Dé’ van Dé Gereformeerde Kerken kan voor een karikatuur zorgen.’ Visser: ‘Wat de toenadering makkelijker maakte, is dat er de laatste vier, vijf jaar behoorlijk wat leden uit de GKv naar beide kerkverbanden zijn overgekomen die zich aangetrokken voelen tot de prediking en geen weet hebben van de geschiedenis. Dat relativeert de scherpe kantjes.’ ‘Een ware kerk zijn is voor ons: kerk van de Here Jezus zijn. Dat heeft niks te maken met een warekerkideologie ofzoiets.’ Jullie hebben elkaar erkend als ‘ware kerken van Christus’. Dat doet sterk denken aan het oude vrijgemaakte warekerkdenken. Waarom kiezen jullie uitgerekend voor die uitdrukking? Visser: ‘Heel simpel: omdat er in de belijdenis over de ware kerk wordt gesproken. Een ware kerk zijn is voor ons: kerk van de Here Jezus zijn. Dat heeft niks te maken met een warekerkideologie ofzoiets.’ Koster: ‘Het is niet onze bedoeling daarmee andere kerken te veroordelen. We zijn niet voor niets ook in gesprek met de Christelijke Gereformeerde kerken en de Hersteld Hervormde Kerk.’ Visser: ‘Als een catechisant aan mij vraagt: ‘Dominee, zijn wij ware kerk?’, dan zal ik zeggen: ‘Als jij ervan overtuigd bent dat wij geen ware kerk zijn, moet je er heel snel wegwezen en je je ergens anders bij voegen’.’ Maar terminologie doet er toe. Dat ‘ware kerken’ straalt uit: wij zijn het en anderen niet. Visser: ‘Ik ben sinds ik als jongere lid werd van de Gereformeerde Kerken vrijgemaakt, nooit iemand tegengekomen die heeft gezegd: wij zijn de ware kerk en de anderen zijn het dus niet.’ In andere kerken is het zo wel beleefd. Er werden grapjes gemaakt over vrijgemaakten die dachten dat alleen zij in de hemel waren. Visser: ‘Klopt ja. Toen ik dominee werd op Urk, kreeg ik daarover ook vragen van een lokale krant. Ik ben er altijd duidelijk over geweest: ik ben ervan overtuigd dat wij de ware kerk zijn, maar ik zeg niet dat er geen andere ware kerken zijn.’ Maar jullie erkennen alleen elkaar als ware kerken en geen andere kerkverbanden. Visser: ‘Omdat dat nodig is om een kerkverband te vormen. Je herkent elkaar als ware kerk en daarom word je één.’ In de Gereformeerde Kerken vrijgemaakt was het idee dat iedereen zich bij die ware kerk moest voegen. Zie jullie dat ook zo? Visser: ‘Nee, natuurlijk niet. Bij een vereniging met een gemeente die echt kerk van de Here Jezus is, komen zij niet bij ons of wij bij hen. Nee, dan verénigen we. Zo’n gemeente wordt niet pas kerk van Christus als ze zich bij ons voegen.’ Koster: ‘Ons past ook wel enige bescheidenheid. We hebben maar 3500 leden.’ Is het niet juist daarom wijs voorzichtig te zijn met spreken over de ware kerk? Koster: ‘We geven daarmee een mate van verbondenheid aan. Je kietelt ons een beetje hè, met je vragen.’ Het is oprechte nieuwsgierigheid. Koster: ‘Ik denk echt wel dat in andere kerken ook uitverkoren kinderen van God zijn. Tegelijkertijd moet je niet te snel zeggen dat al die andere kerken ook allemaal ware kerken van de Here zijn.’ ‘We willen trouw aan het Woord van God zijn en de Here Jezus volgen. In die zin zijn we niet uniek.’ Er ligt een voorstel om de herenigde kerk Gereformeerde Kerken te noemen. Hoe is dat kerkverband te karakteriseren? Koster: ‘We willen trouw aan het Woord van God zijn en de Here Jezus volgen. In die zin zijn we niet uniek. En we voelen ons van harte verbonden met ieder die de Here wil volgen. We hebben ook niet de behoefte ons af te zetten tegen andere kerken.’ Visser: ‘De naam maakt duidelijk dat we niet uit zijn op een heel eigen identiteit. Wij willen heel gewoon een gereformeerde kerk zijn. Meer niet. Niks bijzonders, niks speciaals.’ Koster: ‘Bij mij is het besef gegroeid dat we in een geseculariseerde maatschappij leven en een roeping hebben in deze wereld. De kerkelijke breuk kostte bakken energie. En de vereniging net zo goed. Ik hoop en bid dat de Here ons nu weer mogelijkheden geeft om naar buiten te kijken: hoe breng je de boodschap van het evangelie zo dat die niet alleen voor je eigen kerkleden verstaanbaar is, maar ook voor mensen die te gast zijn?’ DGK en GKN vormen een minizuil, met classes, synodes, eigen aanvullend theologisch onderwijs, een eigen blad, zelfs een eigen particuliere basisschool. Zo richt je de blik toch niet naar buiten? Koster: ‘Een kerkverband helpt om je voortbestaan te bewake

Handgeschreven aantekeningen (door YL) van een uitzending van het praatprgoramma Regaat van Omrop Fryslân op Nederland 2 over "Nederland 2030" van de Rijksplanologische Dienst (RPD). Vier perspectieven: 1) Palet (accent op de vrije markt); 2) Parklandschap (accent op het landschap); 3) Stromenland (accent op verkeer en water/staat); 4) Stedenland (accent op ontwikkeling van de bebouwde kom - het landschap vrijwaren.

Vliegveld in de Flevopolder (Lelystad) is belangrijk voor Friesland = bruggehoofd tussen Randstad en Noord-Oost Nederland. Zo niet, dan kunnen wede Zuiderzeespoorlijn wel vergeten!

Reg.: AT/ABC-224