AI skaber risiko for farlige parallelle virkeligheder i netværk
Digitale netværk kan miste troværdighed, når AI-systemer opfatter tid forskelligt. En dansk professor advarer nu mod falske sanseindtryk i realtid
Del artiklen påAf Lars Bennetzen
Når intelligente systemer begynder at interagere med hinanden i realtid, opstår der komplekse udfordringer for de digitale netværk. Spørgsmålet om, hvordan man sikrer troværdig og tidsmæssigt korrekt information, er omdrejningspunktet i en ny artikel publiceret i IEEE Spectrum.
Afsenderen er professor Petar Popovski fra Aalborg Universitet, der peger på risikoen ved systemer, der fortolker tid og data individuelt.
- Når AI-systemer begynder at opfatte verden gennem egne sensorer og algoritmer, opstår der en risiko for, at de registrerer begivenheder i forskellig rækkefølge – og dermed skaber parallelle virkeligheder, siger Petar Popovski, professor ved Aalborg Universitet.
Hvis intelligente enheder er uenige om hændelsesforløb, kan det underminere den tidsmæssige retssikkerhed. Dette er kritisk inden for områder som trafikstyring, juridisk bevisførelse og cybersikkerhed.
Et eksempel på konsekvenserne kan ses i trafikken. Hvis to selvkørende biler ved et kryds modtager forskellige data – hvor den ene bremser for en fodgænger, mens den anden modtager forsinket data og tror vejen er fri – kan uenigheden føre til kollisioner. Samtidig øges risikoen for, at AI kan generere falske sanseindtryk som lyd og video, der kan manipulere beslutningssystemer.
- Vi bevæger os ind i et territorium, hvor digitale systemer ikke længere blot registrerer virkeligheden – de skaber den. Derfor skal vi designe netværk, der kan levere verificerbar og troværdig data, selv når AI er en del af kredsløbet, siger Petar Popovski.
Forskergruppen på Aalborg Universitet arbejder på modeller til at håndtere disse udfordringer i fremtidens 6G-netværk. Relevansen understreges af, at Nvidia i oktober annoncerede en investering på 1 mia. dollars i Nokia med henblik på at integrere AI i netop 6G-netværk til dataanalyse i realtid.
- Vi kan ikke give fulde garantier med AI, kun statistiske. Men vi kan – og skal – designe netværk, der gør mest muligt for at understøtte troværdighed og tidsmæssig retssikkerhed, afslutter han.