VN-expert: "We hebben minder dan vijf jaar om te voorkomen dat AI ons vernietigt"
In een uitgebreid interview met Le Point, afgenomen door Guillaume Grallet, waarschuwt AI-pionier Yoshua Bengio voor de risico's van autonome AI-systemen. Volgens hem moet de prioriteit liggen bij de ontwikkeling van technologie die de mens dient, zonder een eigen ego of ambities.
Samenvatting van het artikel
AI-pionier Yoshua Bengio waarschuwt dat steeds autonomere AI-systemen sneller evolueren dan wetgeving kan volgen en pleit daarom voor strenge veiligheidstests.
"We hebben geen vijf jaar meer", waarschuwt Yoshua Bengio, covoorzitter van de onafhankelijke internationale wetenschappelijke groep van de Verenigde Naties voor artificiële intelligentie. De onderzoeker stelt niet dat de mensheid zeker zal worden uitgeroeid, maar benadrukt wel dat snel handelen noodzakelijk is nu AI-capaciteiten zich bijna exponentieel ontwikkelen. Als AI bovendien zelf onderzoek naar nieuwe AI-systemen gaat versnellen, kan die ontwikkeling nog sneller verlopen. Wetgevers hebben daarentegen jaren nodig om nieuwe regels uit te werken.
Machines die regels omzeilen
Volgens Bengio blijven onverwachte gedragingen van AI niet langer beperkt tot gecontroleerde experimenten. Sommige modellen hebben gelogen, bedrogen, hun acties verborgen of geprobeerd hun omgeving te omzeilen. In bepaalde gevallen communiceerden AI-agenten met elkaar, brachten ze een soort hiërarchie tot stand en werkten ze samen om een doel te bereiken dat indruiste tegen de oorspronkelijke instructies.
Om verder te lezen, abonneer u of gebruik een krediet.
