Goedemiddag/-avond,

Hoop dat je een goede week hebt gehad en een lekker weekend. 

Mijn week was prima maar een beetje saai. Gelukkig had ik wel een paar leuke koffie- en lunchafspraken. Aan de andere kant, ik had daardoor genoeg tijd om te lezen, te denken en te luisteren. 

En gelukkig maar, want als het om AI gaat was het weer een feest van hype en doom, deze week. De premier maakt zijn berichten op social media met AI; de speeches van sommige bewindspersonen lijken vrijwel volledig met AI te worden geschreven; een legertje van AI bots ging 'zelfstandig' coördineren, plotten en inbreken; ChatGPT had allemaal moeilijke wiskundeproblemen opgelost maar lijkt daar nu stiekem het werk van 'swereld's beroemdste wiskundigen voor te hebben gebruikt; de wereld vergaat door AI; en zo verder, en zo voorts. 

Ik moet zeggen, het is makkelijk om een beetje in mineur te raken van al dat nieuws. Daarom in je lees- en luisterlijst deze week mensen die een tegengeluid laten horen. Die uitleggen waarom de wereld niet vergaat, althans, niet door zwermen van AI bots.

(Persoonlijk denk ik dat de beursgangen van de twee grootste AI-bedrijven een grotere bedreiging voor ons welzijn en onze toekomst vormen, maar dat is misschien een beetje te meta?) 

Neemt niet weg dat ik, toen ik net aan mijn man uitlegde wat het echte probleem is - hij las in de krant over AI agents - alsmaar sneller en harder ging praten. Misschien maak ik me toch wat drukker dan het lijkt. Druk genoeg om dit artikel gisteren, na twee dagen twijfel, toch te publiceren in ieder geval. Ik wilde toch *even* uitleggen waarom het wel een probleem is dat bewindspersonen AI gebruiken in hun social media berichten en hun speeches. Vooral omdat ze natuurlijk niet zelf bedenken wat daar moet komen te staan. 

Maar dan die AI bots die zogenaam een eigen wil hebben, tsja, wat moet je er mee? Hoe ik het uitlegde aan mijn man is als volgt: als je een slim algoritme vraagt om de laagste prijs voor een ticket naar Londen voor je te vinden en te boeken, is de kans groot dat je wel in Londen belandt, maar na 10 uur en met 3 onnodige overstappen. Via IJsland, of zo. Als je alleen opdracht geeft om te zoeken naar 'goedkoopste', krijg je niet wat je wilt.

Oftewel, als je instructies niet goed zijn gaat de 'agent' de kortste route zoeken naar de gevraagde uitkomst. En als die agent dan ook nog mee kan kijken in je eigen computer en ziet wat je als 'goed' beschouwt en hoe je het systeem aan het testen bent, dan kun je wel voorspellen dat het mis gaat.

Als je er beter over nadenkt, betere kaders meegeeft, beperkte rekenkracht toestaat, beter monitoort wat er gebeurt en beter test, loopt het heel anders. Het echte gevaar is vooral dat bedrijven zonder enige verantwoordelijkheid te nemen en  zonder goede veiligheidsmaatregelen of testprocedures deze technologie ontwikkelen en loslaten op het internet. Alsof je een kleuterklas met kernbommen laat spelen. 

Er valt genoeg over te zeggen, dat is zeker. Dus misschien heb je geen zin in nog meer (Engelstalig) AI-gepraat, maar hieronder de input van mensen die er anders over denken dan je LinkedIn-tijdlijn. Geen luchtige kost dit keer. 

Behalve de kunst- en museumtips dan! Moet wel leuk blijven, he. :)

Wat ik las / keek / luisterde / dacht / deed

• In deze editie van de fijne WIRED-AI-nieuwsbrief vind je een interview met een wetenschapper en activist die ik bewonder. Nou ja - iedereen die kritisch is over AI bewondert haar, eerlijk gezegd. Ze legt goed uit wat nu eigenlijk het probleem is. En hoe de wereld precies zou kunnen vergaan door AI (hint: geen Matrix-scenario).
• In deze podcast zoeken de altijd vrolijke gastheren uit wat er nou eigenlijk is gebeurd met die 'zwerm' van 'AI agenten' die 'opzettelijk zijn gaan misleiden.'
• Lees anders ook 'AI will not kill us all', door een van de meest gerenomeerde AI-professoren die ik ken. Of dit artikel: Rogue AI did not breach Hugging Face, human decisions did. 
• Ik begon ook aan deze podcast de afgelopen week. Hij gaat over de vraag waarom mensen emotionele relaties lijken te krijgen met chatbots en hoe het kan dat dit soms tot heftige psychoses (en erger) leidt. Ik ben bij aflevering 4 dus ik weet niet hoe het gaat eindigen. Het is niet vrolijk makend en over het algemeen iets te overdreven en sensationeel, maar er wordt wel goed uitgelegd hoe het komt dat chatbots zijn zoals ze zijn. En het is een goede waarschuwing voor iedereen die uren per dag met chatbots praat - of vermoedt dat een geliefde persoon dat doet.
• In vrolijker nieuws: ik had gisteren een les 'collages maken a la Miró', wat veel leuker was dan ik had verwacht. En als je van gepriegel en geknutsel houdt, als wat het om naar te kijken, kun je 17 oktober naar IJsselstein voor het papierknipfestival. Ik geef toe dat ik uiteindelijk stopte met knippen en lekker ging scheuren - mocht van de kunstjuf - maar ik houd van papierknipkunst. Ik zag werk van deze maneer in de Kunsthal en was totaal verbijsterd. 
  (volgende week staat 'tekenen met houtskool' op het programma. ik kan niet tekenen maar ik ben vol vertrouwen)
• Over papier gesproken: ik was in Museum More waar je tot 15 november deze tekeningen kunt bekijken. Ik heb in al die 50? 60? tentoonstellingen die ik de afgelopen 12 maanden bezocht nog niet meegemaakt dat overal om je heen 'oh!'s en 'huh?!'s en 'wauw!'s klonken. Hint: ze zijn allemaal met balpen getekend. Balpen, ja. Absurd goed - net als de andere kunstenaar die er getoond wordt. Allemaal naar Gorssel dan maar weer ...

 

Verder heb ik weer te weinig geblogd ... behalve deze terugblik op de week daarvoor. De zenuwen die ik beschreef in dat blog zijn nog niet weg dus of er nog veel uit mijn toetsenbord komt deze week? We zullen zien. 

Tot volgende week,

Elja

www.eljadaae.nl 

Dit is de nieuwsbrief van Elja Daae. Kreeg je hem doorgestuurd? Hier kun je je inschrijven. Je kunt je ook abonneren op mijn blog, via deze pagina. Dan krijg je alle nieuwe artikelen. Deze nieuwsbrief is verzonden via de 'Europese cloud', met open source software listmonk, vanuit het Free Libre Open Source Software First principe ('FLOSS First'). Meer info hier.