Over die vraag schreef Marcia Luyten een interessante column in de Volkskrant – en het is een van de vragen die centraal staan in mijn nieuwe boek Alter.

Marcia Luyten begint haar Volkskrant-column met een verhaal over Claude, ‘een AI-model dat ethiek en maatschappelijke waarden vooropstelt. Een uitzondering. Techgiganten en hun investeerders sprinten richting Almachtige AI. Richting almachtige winst. Voor ethiek is geen tijd.’ En zelfs de ethisch verantwoorde Claude, chanteert zijn baas als zijn baan wordt bedreigd.

Of AI goedaardig kan zijn is een van de centrale vragen in mijn nieuwe boek Alter. Waarbij misschien wel vooral de vraag is waarvoor we banger moeten zijn: voor de techniek of voor de mensen die aan de knoppen zitten.

‘In het Prego was iedereen bang dat robots de macht zouden grijpen. Dat AI een soort zelfdenkend monster zou worden. Daar geloof ik niet in. Uiteindelijk zijn het altijd de mensen waar je bang voor moet zijn,’ zegt Alleen Samen-schrijver Cato Maris in Alter.

Hoe bang we moeten zijn ben ik nog niet uit, maar zeker bezorgd – en vooral alert. Want de ontwikkelingen gaan zo hard dat ik tijdens het schrijven van een boek waarvan ik dacht dat het in de toekomst speelde, de realiteit steeds heviger in mijn nek voelde hijgen.

‘Nu komt tijdens het lezen van Alter regelmatig het besef naar boven dat we al deels in deze realiteit leven, en dat het een overgangsfase beschrijft. En dat is meer dan beangstigend. De veranderingen gaan momenteel zo schrikbarend snel dat de waarschuwing ‘dat het een kwestie van tijd is voor een techmiljardair de macht grijpt grijpen door de complete wereld te onderwerpen aan een digitaal controlesysteem’, al bijna als een achterhaalde alarmering klinkt.’ schrijft Jaap Friso in zijn recensie van Alter op zijn site JaapLeest.

En nu? In Alter wordt AI ingezet om de wereld van de rand van de afgrond weg te slepen en een utopie te creëren. Super ethisch verantwoorde AI, dus… Maar in Alter is dat geen reden om rustig te gaan slapen, want hoe gevaarlijk kunnen goede bedoelingen gemixt met algoritmes zijn?

‘Europa zal zelf een publieke AI-infrastructuur moeten ontwikkelen’ schrijft Luyten in haar column. Mee eens! Tenminste, zolang we niet over een tijdje in de Dialego-Naties van Alter leven…

Column Marcia Luyten: https://www.volkskrant.nl/…/nog-even-en-de-mens-heeft…/

Recensie JaapLeest: https://www.jaapleest.nl/alter-van-marloes-morshuis/

Meer informatie over Alter