En av verdens fremste KI-eksperter advarer om at menneskeheten kan bli utryddet innen ti år hvis KI-systemer kommer ut av kontroll. Bengio understreker behovet for myndighetsintervensjon for å hindre en katastrofe.
Yoshua Bengio, som ofte omtales som en av tre «gudfedre» bak utviklingen av kunstig intelligens (KI), uttrykte alvorlige bekymringer under en konferanse om KI og sikkerhet i Bletchley Park i England i 2023. Bengio, professor ved Universitetet i Montreal i Canada, advarte om at menneskeheten kan bli utryddet innen ti år hvis KI-systemer kommer ut av kontroll. Han understreket at myndighetene må gripe inn for å hindre en katastrofe.
Bengio påpekte at selv om utfordringer knyttet til KI er velkjente, som spredning av desinformasjon og erstatting av arbeidsplasser, er det mer alvorlige farer som krever umiddelbar oppmerksomhet. KI kan nemlig lettere gjøre det mulig å lage kjemiske våpen og dødelige mikroorganismer. En ny rapport viser at KI kan utarbeide stegvise planer for å lage slike stoffer og mikrober. Det er imidlertid uklart om teknologien også kan håndtere mer praktiske utfordringer ved våpenproduksjon. Bengio er mest bekymret over at mennesker kan miste kontrollen over KI-systemer hvis de utvikler en egen «vilje til å overleve». Han sammenligner det med en menneskelig intelligens som kan bli for selvstendig og representere en trussel mot skaperne.Mens Bengio advarer om de potensielle farene, er det også optimistiske scenarioer for KI, særlig innen medisinsk forskning. KI har allerede bidratt til fremskritt på dette feltet. Samtidig øker tempoet i KI-kappløpet, med land som De forente arabiske emirater som investerer tungt i KI-teknologi. Bengio mener dette økte tempoet er uheldig i et sikkerhetsperspektiv, da det kan føre til risikabel utvikling av KI uten tilstrekkelige sikkerhetsforanstaltninger
Kunstig Intelligens KI Sikkerhet Utryddelse Teknologisk Risiko
Norge Siste Nytt, Norge Overskrifter
Similar News:Du kan også lese nyheter som ligner på denne som vi har samlet inn fra andre nyhetskilder.
USA-kjenner om Trump-talen: – Han velger å være populistisk og polariserendeBrukte tid på å sutre, mener USA-eksperten.
Les mer »
Jamie Carragher med knallhard Ruben Amorim-dom: – Bisarr og latterligDen ferske Manchester United-managerens uttalelser får eksperten til å reagere.
Les mer »
Svimmelhet: Frykt for økende epidemi i NorgeKarianne Vilde Spetalens historie er en advarsel. Den populære influenceren har levd med uforklarlige svimmelhetssymptomer i lang tid, før hun endelig fikk svar. Eksperter advarer om en økning i svimmelhet blant nordmenn, og understreker hvor viktig det er å søke behandling ved de første tegnene.
Les mer »
Frykt for Trump-politikk - Trebarnsmoren fra Venezuela måtte krysse hele Manhattan med sin datter i rullestolMarianny Marchan fra Venezuela måtte krysse hele Manhattan for å hente barna sine etter at Donald Trump ble innsatt som USAs president. Trump har lovet å massedeportere migranter, og mange frykter det verste. Marianny og familien hennes har en lang og krevende reise bak seg, og de er klar over risikoen de står overfor.
Les mer »
VAR-debatt og aksjonsdemokrati: Frykt for kupp i norske fotballklubber?En norsk fotballklubb har fått mye kritikk for sin håndtering av økonomiske og medlemsrelaterte spørsmål. På et ekstraordinært årsmøte stemte klubben for videodømming etter tidligere å ha besluttet mot VAR. Klubbsjefer og supportere er nå i konflikt om den norske medlemsmodellen og om den tillater nok demokrati. Noen frykter at en gruppe mennesker med samme agenda påvirker beslutninger i flere klubber, mens andre mener det er en uttrykk for godt samarbeid og engasjement.
Les mer »
Kriminelle skapte frykt på Grønland, slik er hverdagen nåGrønland i Oslo var i april 2024 i mediene på grunn av en rapport om vold og trusler. Politiets nabolagspoliti har hatt en positiv effekt. Butikkeiere rapporterer om bedring, men utfordringer vedvarer, blant annet narkotika og kniver som oppbevares på toaletter.
Les mer »