B1NOS Jeugdjournaal · 14 september 15:27
Is AI gevaarlijk voor mensen?
Transcript
- Ik denk niet dat je er heel bang voor
- moet zijn dat het de wereld over gaat
- nemen en ons allemaal neer komt
- schieten.
- Is AI gevaarlijk voor mensen? Daar zijn
- basen van grote AI bedrijven bang voor.
- Standards about safety standards for
- release perhaps about the pace of
- release. Ja, heftige woorden. Maar
- volgens AI deskundigen waarschuwen
- bedrijven nu omdat ze niet willen dat ze
- later de schuld krijgen als het toch
- misgaat.
- En wat stel je voor dat er straks iets
- heel extreems gebeurt? Er wordt ergens
- iets gehackt met een AI agent waar we
- last van krijgen. Dan kunnen zij zeggen:
- "Ja, kijk, wij vroegen aan de
- Amerikaanse overheid en aan de EU. Wij
- vroegen om wetgeven. Ja, die is er niet
- gekomen. Dus ja, wij konden er eigenlijk
- niks aan doen.
- De zorgen gaan vooral om zogenoemde AI
- agents. Die kunnen meer dan gewoon een
- vraag beantwoorden. Bijvoorbeeld: "Zoek
- een leuk cadeau
- voor mijn vriend." Dan krijg je
- vervolgens allemaal vragen zoals: "Wat
- zijn grootste hobby's en aan welk budget
- denk je ongeveer?"
- Ja, en met die antwoorden kan de chatbot
- dan een goed cadeau bedenken. Ja, klinkt
- super handig, maar hierover zijn grote
- zorgen. Maar de zorgen gaan over AI
- agents die zelfstandig dingen gaan doen,
- zoals het hacken van bedrijven. En die
- zorgen zijn al eens uitgekomen.
- Unprecedented AI security incident GPT
- creator open
- onlangs hackte honderden van die AI
- agents een bedrijf zonder dat iemand
- daarom gevraagd had. Ik denk niet dat je
- er heel bang voor moet zijn dat het de
- wereld over gaat nemen en ons allemaal
- neer komt schieten. Want dat is nog zo'n
- ontzettend verre sci-fi toekomst. Een
- veel reëlere angst is. Ze stoten enorm
- veel CO2 uit. Dat is echt heel slecht
- voor klimaatveranderingen. Daar gaat het
- al niet zo goed mee. En ze kunnen heel
- goed nepafbeeldingen en video's maken en
- die risico's zijn groter en dichterbij.