Voormalig CEO van Google waarschuwt voor risico's AI

Het Sifted Summit 2025, een jaarbeurs voor techneuten in London, bracht deze week meer dan 3.000 experts bijeen om de nieuwste inzichten in de technologie van de toekomst te bespreken. Een opvallende gast was Eric Schmidt, voormalig CEO van Google. Hij waarschuwde voor de kwetsbaarheid van kunstmatige intelligentie (AI) als gevolg van hacks.

Er zijn volgens Schmidt aanwijzingen dat AI modellen, gesloten of open, worden gehackt. Hij sprak in London over de schade die AI kan aanrichten naar aanleiding van een vraag of kunstmatige intelligentie gevaarlijker is dan een atoombom. Modellen gebaseerd op AI zijn in staat om alles te leren, ook slechte dingen, zei hij. Je kunt er moordmachines van maken.

Schmidt was van 2001 tot 2011 CEO van Google. Grote bedrijven laten volgens hem AI modellen vooralsnog geen slechte dingen leren. Maar een hacker kan een model overnemen en die trainen om criminelen activiteiten uit te voeren zoals iemand vermoorden.

Twee technieken worden vaak genoemd om AI te misbruiken: prompt injections en jailbreaking. De eerste techniek wordt gebruikt om kwalijke instructies te plaatsen in externe data zoals web pagina’s, digitale documenten… om modellen acties te laten uitvoeren waarvoor ze oorspronkelijk niet zijn getraind zoals het stelen van persoonlijke data of het uitvoeren van een schadelijke actie.

Bij jailbreaking wordt AI gemanipuleerd om bijvoorbeeld chatbots met opzet verkeerde antwoorden te laten geven op vragen van de gebruikers. Daarmee negeert de chatbot de eigen veiligheidsvoorschriften en geeft informatie die gevaarlijk kan zijn zoals hoe je illegale activiteiten straffeloos kunt uitvoeren. Schmidt denkt dat er nog geen oplossingen voor dit probleem zijn.

Toch is hij niet pessimistisch over de toekomst. In een reactie op zender CNBC.com noemde hij kunstmatige intelligentie als de meest ondergewaardeerde technologie met een groot vermogen om de mensheid vooruit te helpen.

Meer lezen over hetzelfde onderwerp:

Kunstmatige intelligentie (AI) en verkiezingen
CNN heeft een interview gehouden met Anasse Bari, een docent kunstmatige intelligentie uit Marokko aan de Universiteit van New York. Hij legt in deze video uit hoe de publieke opinie op social media kan worden bestudeerd in de aanloop naar de verkiezingen 2024 in Amerika. Nog nooit zijn de verkiezingen in dat land zo beïnvloedbaar door desinformatie, betaalde influencers en nep berichten. In Nederland hebben Nieuwscheckers daar ook een speciaal nummer aan gewijd.

Krant experimenteert met kunstmatige intelligentie (AI)
Italiaanse krant Il Foglio (22 medewerkers) experimenteerde een maand lang met vier pagina's dagelijks nieuws volledig door kunstmatige intelligentie (AI) geschreven. De proef is net afgelopen en was volgens de krant een groot succes. Het heeft de verkoop een boost gegeven. De redactie wil nu een wekelijks rubriek door AI laten schrijven en meer artikelen publiceren waar de medewerkers geen expertise voor hebben. Volgens de krant is AI in staat een boek van 700 bladzijden te lezen en binnen enkele minuten er een recensie over te schrijven. De recensies zijn volgens de redactie indrukwekkend. Maar het zal kwaliteitsjournalistiek niet vervangen, aldus de krant in een reactie via Reuters nieuwsagentschap. 

Hoe gebruiken de rijken kunstmatige intelligentie (AI)?
Een aantal mensen zijn miljardair geworden dankzij kunstmatige intelligentie (AI). Ze staan op de lijst van tijdschrift Forbes van rijkste mensen op aarde. Het tijdschrift vroeg afgelopen voorjaar in een enquête om hun mening. Uit de enquête bleek dat 65% AI gebruiken in hun persoonlijk leven. 77% gebruiken AI om zaken te doen. Chatbots en ChatGPT worden het meest gebruikt. De uitslag van de enquête is online te lezen onder titel Three-Quarters Of Surveyed Billionaires Are Already Using AI.

Kunstmatige intelligentie (AI) op school
Coding, kunstmatige intelligentie (AI) en robotica worden vanaf 2026 op middelbare schoen onderwezen. Dat staat in het nieuwe plan “Caravanecode” van het Ministerie van Onderwijs. Volgens een nieuw onderzoek besproken deze week in krant Le Matin is er een groeiend enthousiasme onder leerlingen. De disciplines zijn aantrekkelijk vanwege het speelse karakter en een beter perspectief op de arbeidsmarkt. Een aantal publieke en private instellingen zijn al begonnen met het opnemen van de disciplines in hun onderwijsprogramma’s. Uit talrijke onderzoeken bleek dat deze activiteiten leerlingen helpen werken met algoritmen en kritisch nadenken. Ze ontwikkelen probleemoplossende vaardigheden en moedigen creativiteit aan die nodig zijn om de uitdagingen van de arbeidsmarkt aan te kunnen. Meer te lezen in een interview van krant Le Matin van deze week met Ilham Laaziz, directrice van het programma GENIE van het Ministerie van Onderwijs. Ze is verantwoordelijk voor het enthousiasmeren van leerlingen voor coding, kunstmatige intelligentie(AI) en robotica. 

Nieuw centrum kunstmatige intelligentie (AI)
Universiteit UM6P van Rabat heeft een nieuw gebouw in gebruik genomen waar studies over kunstmatige intelligentie (AI) worden ondergebracht. De opening van het gebouw werd ingeluid met een internationale conferentie over ethiek en de impact van kunstmatige intelligentie op economie en maatschappij. De Universiteit UM6P biedt een master aan voor geïnteresseerden uit het bedrijfsleven, overheden en particulieren.

Kunstmatige Intelligentie (AI) in Nederland
Druk pratende mannen en vrouwen van middelbare leeftijd staan in de hal van het gebouw koffie en thee te drinken. Zonnestralen dringen door lange smalle ramen binnen. Ze belichten de fraaie met purper, geel en licht oranje beschilderde muren van het gebouw. TV schermen met voorbij flitsende reclamespotjes hangen aan de muur. Hier en daar lopen bezoekers langs infostands van deelnemende bedrijven. Ze bladeren in dikke mappen waar het programma van de dag staat. Een verslag uit 2010 van de bijeenkomst van het Institute of Knowledge and Agent Technologie (iKat) in Amsterdam.

ChatGPT apps als persoonlijk assistent
ChatGPT is een zoekmachine die kunstmatige intelligentie gebruikt. De zoekmachine heeft betaalde apps. Het heeft ook gratis apps die net zo goed zijn als de betaalde versie. Start met een bezoek aan de website chat.openai.com en klik op Sign Up. Registreer met je eigen e-mail of een e-mail van Google, Microsoft of Apple. Wat hierna volgt zijn tips afkomstig uit de nieuwsbrief Wonder Tools van deze week gemaakt door journalist en Internet specialist Jeremy Caplan.

Eerste top kunstmatige intelligentie (AI)
Het nieuwe centrum voor kunstmatige intelligentie in Rabat speelt sinds de oprichting in 2021 een toenemende rol in de innovatie in eigen land en in Afrika. Het organiseert van 03 tot 05 juni de eerste Afrikaanse top over kunstmatige intelligentie. De top vindt plaats in het nieuwe AI gebouw van 5.000 m² buiten Rabat. Het centrum is mede opgericht door het Office Chérifien des Phosphates (OCP), een mijnbouwbedrijf en markleider in kunstmest. De bekendmaking van de Afrikaanse top in Rabat vond plaats na de publicatie afgelopen 21 maart van eerste VN verklaring over kunstmatige intelligentie en duurzame ontwikkeling. Marokko was een van de ontwerpers van de slotverklaring waarin de lange termijndoelen worden beschreven. De wetenschappelijke kloof tussen arme en rijke landen moet worden overbrugd.