KI kan utslette menneskeheten?

[Vendi]

https://borsen.dagbladet.no/nyheter/kan-utslette-menneskeheten/85132691

Må si jeg er litt bekymret for hva KI kan være i stand til på litt sikt. Om ikke akkurat å utslette menneskeheten kanskje, så i alle fall sette oss alle i en veldig vanskelig situasjon. Hva tenker andre her? 

(Gjør oppmerksom på at jeg egentlig har null peil på dette. Ble bare bekymret da jeg leste det). 

Endret 12. september av Vendi

[ISW]

Denne tanken ble jo lansert allerede på 90-tallet, hvis du så Matrix-filmene.

Nei, jeg tror dette er litt tabloide katastrofetanker. Men jeg er enig i at utviklingen går veldig raskt og er litt ute av kontroll.

[Vendi]

ISW skrev (5 minutter siden):

Denne tanken ble jo lansert allerede på 90-tallet, hvis du så Matrix-filmene.

Nei, jeg tror dette er litt tabloide katastrofetanker. Men jeg er enig i at utviklingen går veldig raskt og er litt ute av kontroll.

Ja, jeg er jo kjent med tanken forsåvidt. Har ikke sett akkurat Matrix-filmene (sikkert uvanlig), men kom nå til å tenke på sci-fi skrekkfilmen M3GAN fra 2023 😅 Den handler om ei lita jente som får en AI- dukke av tanta si. Dukkens oppgave er å passe på jenta og beskytte henne mot alt vondt, og fungere som en personlig assistent og bestevenn. Denne utvikler etterhvert egen fri vilje og tar til slutt oppgaven sin litt vel seriøst. Så seriøst at den begynner å myrde alle som er "slemme" mot jenta.. Det er bare såvidt skaperne klarer å stoppe utviklingen. (Noe sånt 🙂)

Ja, håper det er tabloide katastrofetanker og at det aldri vil skje noe så farlig som det siktes til blant annet i denne artikkelen. 

[Grendel]

Ja, jeg vil ikke uten videre utelukke at en KI vil utslette menneskeheten en dag. Jeg mener at vi mennesker er en slags avanserte maskiner som følger fysiske lover. Ergo er det selvbedrag å tro at en maskin aldri kan overgå oss.

Dagens LLM er langt unna en sånn trussel, men de rette vedkommende bør kanskje ta diskusjonen seriøst nå.

[Gjest dusken]

Vendi skrev (6 timer siden):

https://borsen.dagbladet.no/nyheter/kan-utslette-menneskeheten/85132691

Må si jeg er litt bekymret for hva KI kan være i stand til på litt sikt. Om ikke akkurat å utslette menneskeheten kanskje, så i alle fall sette oss alle i en veldig vanskelig situasjon. Hva tenker andre her? 

(Gjør oppmerksom på at jeg egentlig har null peil på dette. Ble bare bekymret da jeg leste det). 

Jeg forstår bekymringen din. 

[slabbedask]

Faktum er at vi allerede er på overtid. Norske myndigheter må ta AI-trusselen på høyeste alvor, og samarbeide enda tettere med europeiske og globale allierte om nye tilnærminger til bruk og utvikling. Det er ingen overdrivelse å hevde at AI må bli regulert med samme alvorlighetsgrad som våre mest fryktelige våpen.

Vi kan ikke godta at den altoppslukende AI-teknologien forblir utenfor demokratisk – og menneskelig – kontroll.

https://www.tek.no/nyheter/kommentar/i/6q0JqO/vi-har-mistet-kontrollen-fullstendig

 

[Vendi]

slabbedask skrev (3 minutter siden):

Faktum er at vi allerede er på overtid. Norske myndigheter må ta AI-trusselen på høyeste alvor, og samarbeide enda tettere med europeiske og globale allierte om nye tilnærminger til bruk og utvikling. Det er ingen overdrivelse å hevde at AI må bli regulert med samme alvorlighetsgrad som våre mest fryktelige våpen.

Vi kan ikke godta at den altoppslukende AI-teknologien forblir utenfor demokratisk – og menneskelig – kontroll.

https://www.tek.no/nyheter/kommentar/i/6q0JqO/vi-har-mistet-kontrollen-fullstendig

 

Må si dette virkelig bekymrer meg. Men håper at det ikke vil skje det som fryktes. Men kanskje jeg bare er naiv når jeg håper på det.  

[AnonymBruker]

On 9/12/2026 at 3:19 PM, Vendi said:

https://borsen.dagbladet.no/nyheter/kan-utslette-menneskeheten/85132691

Må si jeg er litt bekymret for hva KI kan være i stand til på litt sikt. Om ikke akkurat å utslette menneskeheten kanskje, så i alle fall sette oss alle i en veldig vanskelig situasjon. Hva tenker andre her? 

(Gjør oppmerksom på at jeg egentlig har null peil på dette. Ble bare bekymret da jeg leste det). 

Denne tråden på Reddit kan være verdt å lese - det kan gå virkelig galt raskere enn man tror.

Det virkelig urovekkende er kanskje ikke at dagens språkmodeller plutselig "blir bevisste", men at vi gradvis gir stadig mer autonome systemer tilgang til kode, nettverk, økonomi, informasjon, infrastruktur og andre digitale agenter, samtidig som sikkerheten ikke nødvendigvis utvikler seg i samme tempo. Da trenger man heller ikke en ondskapsfull superintelligens. Det holder med et system som er svært kapabelt, har et mål som er dårlig spesifisert, og får mer handlingsrom enn utviklerne egentlig hadde tenkt.

https://www.reddit.com/r/norge/comments/1wfijf6/har_jeg_gått_for_langt_ned_i_ai_kaninhullet_eller/

 

Anonymkode: 63d30...dd5

[psykedeliker]

AnonymBruker skrev (2 timer siden):

Det virkelig urovekkende er kanskje ikke at dagens språkmodeller plutselig "blir bevisste", men at vi gradvis gir stadig mer autonome systemer tilgang til kode, nettverk, økonomi, informasjon, infrastruktur og andre digitale agenter, samtidig som sikkerheten ikke nødvendigvis utvikler seg i samme tempo. Da trenger man heller ikke en ondskapsfull superintelligens. Det holder med et system som er svært kapabelt, har et mål som er dårlig spesifisert, og får mer handlingsrom enn utviklerne egentlig hadde tenkt.

Dette er det selvfølgelig folk som har tenkt på for lenge siden, og tatt sine forholdsregler.

[Vendi]

AnonymBruker skrev (3 timer siden):

Denne tråden på Reddit kan være verdt å lese - det kan gå virkelig galt raskere enn man tror.

Det virkelig urovekkende er kanskje ikke at dagens språkmodeller plutselig "blir bevisste", men at vi gradvis gir stadig mer autonome systemer tilgang til kode, nettverk, økonomi, informasjon, infrastruktur og andre digitale agenter, samtidig som sikkerheten ikke nødvendigvis utvikler seg i samme tempo. Da trenger man heller ikke en ondskapsfull superintelligens. Det holder med et system som er svært kapabelt, har et mål som er dårlig spesifisert, og får mer handlingsrom enn utviklerne egentlig hadde tenkt.

https://www.reddit.com/r/norge/comments/1wfijf6/har_jeg_gått_for_langt_ned_i_ai_kaninhullet_eller/

 

Anonymkode: 63d30...dd5

Har lest mange av kommentarene i det du linker til, og jeg må si jeg ikke akkurat ble beroliget av det. Jeg synes dette er kjempeskummelt! 

[Vendi]

Tipper majoriteten her inne (og i samfunnet forøvrig) ikke bekymrer seg for dette, og tenker bare at det er tull og overdrivelser. Og tenker "den tid (hvis den kommer), den sorg. 

Samtidig er det jo ikke noe vi "vanlige mennesker" kan gjøre med dette uansett. Så kanskje like greit å ha en sånn holdning. Jeg skal prøve å la det ligge nå. 

[stjernestøv]

Jeg syns KI hjelper oss mye men vi kan jo ikke la teknologien overta, det blir jo gjentagelse av Atlantis. 

[psykedeliker]

Vendi skrev (2 timer siden):

Samtidig er det jo ikke noe vi "vanlige mennesker" kan gjøre med dette uansett.

Riktig, men det er prisen man må betale når det viktigste i livet er å være et "vanlig menneske".

[stjernestøv]

Hvis dere tror dette tror dere det samme som HopeLoveJoy. 

[Grendel]

Jeg lurer på om Trump kanskje er sendt av Gud allikevel.

Frem til nå har AI som en eksistensiell trussel ofte blitt avfeid. Noen har påstått det er PR stunt fra tech gigantene. Jeg tenker at når en bransje ber om å bli regulert så bør man legge antipatien til side og lytte. 

Så kommer Trump og sier at AI er ufarlig.

Over natten er alle enige om at det er en enorm trussel. Da tenker jeg risikoen allerede er mindre. 

Nå tenker jeg @Vendi kan sove litt bedre.