B1NOS Jeugdjournaal · 15 September 13:00
Kan AI gevaarlijk worden? Deskundigen willen regels
Transcript
- Ik denk niet dat je er heel bang voor
- moet zijn dat het de wereld over gaat
- nemen.
- Maar ja, de basen van de AI bedrijven
- Chat GPT, Cloud, Gemini en Grock zeggen
- het deze week allemaal. De ontwikkeling
- van AI gaat snel, volgens hun te snel.
- I think the probability of something bad
- is very low.
- Ze zijn bang dat AI zo krachtig wordt
- dat het gevaarlijk zou kunnen worden. Ze
- hebben het dan bijvoorbeeld over dat
- bedrijven gehackt zouden kunnen worden,
- bijvoorbeeld een elektriciteitsbedrijf
- en dat AI programma's de stroom kunnen
- uitzetten of dat AI bijvoorbeeld neppe
- informatie over de wereld gaat
- verspreiden. De basen vinden daarom dat
- de ontwikkeling van AI minder snel moet
- gaan.
- Standard. Misschien heb je wel eens
- gebruik gemaakt van een chatbot, zoals
- Chat GPT of [muziek] Gemini. Je stelt ze
- een vraag en er komt een antwoord.
- Bijvoorbeeld: "Zoek een leuk [muziek]
- cadeau voor mijn vriend."
- Dan krijg je vervolgens allemaal vragen
- zoals: "Wat zijn grootste hobby's en aan
- welk budget denk je ongeveer?" Ja, en
- met die antwoorden kan de chatbot dan
- een goed cadeau bedenken. Maar er zijn
- ook AI programma's die nog veel meer
- kunnen. Dat noemen ze AI agents.
- Bijvoorbeeld als je die programma's
- eenzelfde opdracht geeft, dus zoek een
- leuk cadeau voor mijn vriend. Een AI
- agent doet vervolgens alles zelf is het
- idee. Hij zoekt zelf een cadeau uit,
- koopt het cadeau met jouw geld en stuurt
- het ook nog eens zelf op naar je vriend
- zonder dat je maar iets hoeft te doen.
- Ja, klinkt super handig, maar hierover
- zijn grote zorgen. Want die AI agents
- kunnen heel ver gaan. Ze stoppen pas als
- ze klaar zijn met hun opdracht. En dat
- kan gevaarlijk zijn omdat ze dingen
- kunnen gaan doen die niet mogen, zoals
- bijvoorbeeld hacken. Afgelopen zomer
- ging dat al mis. Een systeem van een
- bedrijf werd gehackt door heel veel AI
- agents, terwijl dat niet de bedoeling
- was. Feline Hermans is AI deskundige.
- Volgens haar zeggen de AI bedrijven dat
- er strengere regels moeten komen, zodat
- als het misgaat zij niet de schuld
- krijgen.
- En wat stel je voor dat er straks iets
- heel extreems gebeurt. Daar wordt ergens
- iets gehackt met een AI agent waar we
- last van krijgen. Dan kunnen zij zeggen:
- "Ja, kijk, wij vroegen aan de
- Amerikaanse overheid en aan de EU. Wij
- vroegen om wetgeving. Ja, die is er niet
- gekomen. Dus ja, wij konden er eigenlijk
- niks aan doen.
- Ondertussen blijven AI bedrijven
- doorgaan met het sterker en beter maken
- van hun AI programma's. Iedereen wil de
- beste zijn. De strijd gaat vooral tussen
- deze grote bedrijven uit Amerika, China
- en Europa. Sommige deskundigen vinden
- ook dat er regels moeten komen die voor
- alle AI bedrijven op de wereld gelden.
- Ook al vinden ze dat de basen van de AI
- bedrijven een beetje overdrijven.
- Ondanks dat ik die waarschuwingen
- overtrokken vind van de techbaz,
- [muziek] zou ik het wel goed vinden als
- landen regels maken, afspraken met
- elkaar. Dit mag wel en dit mag niet.
- Maar daar kunnen we denk ik wel even wat
- tempo in zetten.