Når AI sier diagnosen man har er feil

[AnonymBruker]

AI klarer ikke engang å plassere et kjent landemerke her jeg bor på riktig sted. Den plasserer det i en by på den andre siden av landet. Slik er dte med mye annet og, rene faktaopplysninger som er lett tilgjengelig overalt klarer den ikke få riktig. Så nei, aldri stol på noe slikt. 

Anonymkode: 8b50b...377

[Drømmeautomat]

Relevant: OpenAI's o1 correctly diagnosed 67% of ER patients vs. 50-55% by triage doctors

https://www.theguardian.com/technology/2026/apr/30/ai-outperforms-doctors-in-harvard-trial-of-emergency-triage-diagnoses

[Eva Sofie]

Grendel skrev (På 2.5.2026 den 11.35):

Jeg mener det er en sannhet med modifikasjoner. For å gi fornuftige svar må den hensynta veldig dype sammenhenger.

Jeg ser poenget ditt, og har reflektert en del over dette de siste par døgnene. Jeg formulerte meg nok litt for kategorisk. Jeg mener ikke at en språkmodell bare driver med enkel ordgjenkjenning. Den kan gi gode svar på komplekse spørsmål, som du sier. Da blir det feil å avfeie den som ubrukelig eller "dum".

 

Samtidig tenker jeg det er en viktig forskjell mellom å kunne beskrive verden gjennom språk, og å ha erfaringsbasert kunnskap om verden. En AI kan beskrive hvordan man lager mat, men den har aldri stått ved en kjøkkenbenk. Den kan beskrive skam, depresjon, kliniske vurderinger og relasjonelle prosesser, men den har aldri kjent på skam, depresjon, sittet i et terapirom etc.

 

Jeg tenker at AI har et språklig og teoretisk forhold til menneskelig kunnskap, men ikke (taus) innlært, kroppslig eller praktisk kunnskap.

 

Et spennende felt. Fremtiden er neppe mennesket eller AI, men mennesket sammen med AI.

[AnonymBruker]

nachnoo skrev (På 30.4.2026 den 21.30):

ChatGPT henter langt mer "medisinsk" informasjon fra Youtube enn fra vitenskapelige tidsskrift.

Det er mulig du er ekspert på ditt felt, men er du også ekspert og har god forståelse for AI? Eller er dette hentet fra sånt som folk sier?

Anonymkode: 30066...019

[nachnoo]

AnonymBruker skrev (50 minutter siden):

Det er mulig du er ekspert på ditt felt, men er du også ekspert og har god forståelse for AI? Eller er dette hentet fra sånt som folk sier?

Anonymkode: 30066...019

Det er hentet fra et foredrag av en ekspert på AI og medisinske spørsmål. 

[AnonymBruker]

nachnoo skrev (17 timer siden):

Det er hentet fra et foredrag av en ekspert på AI og medisinske spørsmål. 

Det er jo det som er problemet med mennesker i motsetning til AI, alle har sin egen agenda. 

Anonymkode: 30066...019

[nachnoo]

AnonymBruker skrev (1 time siden):

Det er jo det som er problemet med mennesker i motsetning til AI, alle har sin egen agenda. 

Anonymkode: 30066...019

Så lenge agendaen er å formidle fakta, går det greit for meg. 

[AnonymBruker]

AnonymBruker skrev (1 time siden):

Det er jo det som er problemet med mennesker i motsetning til AI, alle har sin egen agenda. 

Anonymkode: 30066...019

Og AI har også sine begrensninger. AI er et tekstverktøy, ikke et orakel.

Anonymkode: cce86...588

[Sokk]

AnonymBruker skrev (8 timer siden):

Det er jo det som er problemet med mennesker i motsetning til AI, alle har sin egen agenda. 

Anonymkode: 30066...019

Hva med de menneskene som har utviklet og eier AI-verktøyet du bruker da? Hva tenker du om deres agenda? 

[nachnoo]

Ikke la dette bli en diskusjon for eller mot AI. AI er meget nyttig, men man må kjenne dens begrensninger.

60% av alle spørsmål til AI gjelder medisinske spørsmål. Kvaliteten på svarene avhenger av hvor programmet leter etter informasjon. 

ChatGPT henter 60% fra Youtube. Da blir svarene selvsagt ikke gode. Langt bedre blir de om man søker i programmer som er instruert til å søke i vitenskapelige kilder. Det finnes allerede flere AI-program som er laget for dette.

[AnonymBruker]

ChatGPT er håpløs når det gjelder å teste ut tilstanden. Uansett hvordan jeg starter en «samtale», så konkluderer den med at jeg er i stor selvmordsfare og burde kontakte 113 umiddelbart. Hadde sikkert vært fint hvis jeg var ute etter bekreftelse og sympati, men ikke en god diskusjonspartner for å faktisk få luftet ting skikkelig. 
 

Når det gjelder diagnose så synes jeg den svartmaler godt, og er kjapp med å sette større sekkediagnoser som bare støtter opp under det jeg skriver. Ingen kritiske spørsmål eller utsjekk om det kan være andre diagnoser. 
 

Opplever at den gir de svarene den tror jeg vil ha. Jeg ville ikke stolt på den for å gi en objektiv diagnosevurdering. Den speiler bare det som blir gitt av inndata.

Anonymkode: e4e57...cb6

[knas]

AnonymBruker skrev (18 minutter siden):

ChatGPT er håpløs når det gjelder å teste ut tilstanden. Uansett hvordan jeg starter en «samtale», så konkluderer den med at jeg er i stor selvmordsfare og burde kontakte 113 umiddelbart

Jeg plundret med et eller annet jeg ikke husker. Men det var noe praktisk som chatgpt ofte er hjelpsomt til. Men jeg fikk det ikke til, så til slutt svarte jeg «jeg gir opp». Da svarte chatgpt at jeg måtte kontakte legevakten hvis jeg strevde/var deprimert eller suicidal. 😂 Den har altså blitt så forsiktig at den ikke vil skille mellom hva jeg «gir opp» - livet eller en praktisk oppgave. 

[AnonymBruker]

Jeg har fra før psykoselidelse og OCD men Grok(AI) sier jeg har Alvorlig traumebasert sosial angst med kroppsfokusert OCD-trekk og kompleks PTSD.

Antipsykotika har aldri fungert på meg. Jeg har nå sluttet på AP og tar kun Efexor som hadde god effekt.

Anonymkode: 5346c...107

[AnonymBruker]

AnonymBruker skrev (På 30.4.2026 den 20.11):

Flere her som har forklart AI detaljert om livshistorien din, symptomer osv og fått beskjed om at diagnosen er feil? Er det noe man burde tro på eller ikke? Har snakket med både Grok og ChatGPT.

Anonymkode: 5346c...107

AI kan gjøre mye feil. De er svake i lengre samtaler med komplekse fakta. Jeg ville ikke stolt på AI, jeg ville snakket med behandlere som kjenner deg og kan se helheten.

Anonymkode: 465a5...061

[AnonymBruker]

nachnoo skrev (På 5.5.2026 den 14.42):

Ikke la dette bli en diskusjon for eller mot AI. AI er meget nyttig, men man må kjenne dens begrensninger.

60% av alle spørsmål til AI gjelder medisinske spørsmål. Kvaliteten på svarene avhenger av hvor programmet leter etter informasjon. 

ChatGPT henter 60% fra Youtube. Da blir svarene selvsagt ikke gode. Langt bedre blir de om man søker i programmer som er instruert til å søke i vitenskapelige kilder. Det finnes allerede flere AI-program som er laget for dette.

Det er et viktig poeng. Samtidig er det veldig mange pasienter som ber AI utredning og diagnose. Jeg forstår ikke hvordan det er god bruk av AI. Er det ikke bedre å bruke fagpersoner til å gi diagnoser? 

Anonymkode: 465a5...061

[Sindrana]

AnonymBruker skrev (På 3.5.2026 den 15.42):

AI klarer ikke engang å plassere et kjent landemerke her jeg bor på riktig sted. Den plasserer det i en by på den andre siden av landet. Slik er dte med mye annet og, rene faktaopplysninger som er lett tilgjengelig overalt klarer den ikke få riktig. Så nei, aldri stol på noe slikt. 

Anonymkode: 8b50b...377

AI fortalte meg at Kristoffer Joner var en kjent skuespiller fra Tromsø som vil være ideell for å holde foredrag om Nord-Norge. Det var c/o-pilot. 

[nachnoo]

AnonymBruker skrev (Akkurat nå):

Jeg forstår ikke hvordan det er god bruk av AI. Er det ikke bedre å bruke fagpersoner til å gi diagnoser? 

Om vi tar utgangspunkt i det første innlegget: Hvis jeg var behandler, ville jeg synes det var svært interessant om pasienten kom med dette svaret fra AI. Så kunne vi tatt det opp til vurdering og kanskje funnet noe som var verdt å finne og som hadde hjulpet pasienten. Jeg synes det er mer fruktbart å diskutere slike uenigheter om diagnose enn å starte en slags konkurranse om hvem som har rett og hvem som har feil.

[AnonymBruker]

nachnoo skrev (13 minutter siden):

Om vi tar utgangspunkt i det første innlegget: Hvis jeg var behandler, ville jeg synes det var svært interessant om pasienten kom med dette svaret fra AI. Så kunne vi tatt det opp til vurdering og kanskje funnet noe som var verdt å finne og som hadde hjulpet pasienten. Jeg synes det er mer fruktbart å diskutere slike uenigheter om diagnose enn å starte en slags konkurranse om hvem som har rett og hvem som har feil.

Det er jeg enig i. Min bekymring er mer at svært mange bruker AI for å gi seg selv diagnoser og vil ha støtte fra andre om at fagpersoner tar feil. Det virker lite konstruktivt. 

Anonymkode: 465a5...061