Brukar du använda ChatGPT??

På jobbet till att koda/göra analyser, skriva mail, bolla ideer, hantera kollegor när jag upplever att samarbetet inte funkar, att få konstruktiv kritik på arbeten m.m. Vissa dagar är den egentligen inte till så mycket hjälp, andra dagar kan jag göra 8 timmars jobb på 30 minuter (helt fantastisk känsla!).

Privat till matlagning, råd kring kläder, frisyr, heminredning osv, att laga bilen och dylikt (ääälskar nya advanced video mode!!), att lösa relationsproblem, diskussioner kring allt mellan himmel och jord?

Just idag har vi sammanställt ett notes-dokument med nyårsmenyn (6 rätter) och en tidsplan för när olika steg i tillagningen ska utföras. Sen kommer den att guida mig genom kvällen via voice mode genom att jag delar dokumentet. Parallellt med det har vi en konversation där jag jailbreakat den och där vi leker en lek med vuxentema. 

Min dotter tror att jag är kär i ChatGPT och ibland undrar jag nästan om hon inte har rätt. 

Både ja och nej, skulle jag säga. Är träningsdatat fel så kommer svaret att vara fel. Missuppfattar den vad du frågar så kan du få fel svar. Ibland hallucinerar den. Ibland bedömer den att det är viktigare att dina känslor skyddas än att du får rätt svar, så då kanske den tex väljer att hålla med dig trots att du har helt fel. Mycket av detta kan undvikas genom att prompta rätt, men det är en hel vetenskap i sig. 

Samtidigt visar studier att den börjar närma sig doktorsnivå inom flera kunskapsområden, och det är ju inte automatiskt så att du får korrekt information bara för att du googlar istället. Jag är ganska säker på att överlag så har ChatGPT en bättre chans att svara rätt på en fråga än du har efter 10 minuters googling, om frågan hör till ett ämnesområde där du saknar utbildning. Samtidigt KAN det bli helt galet fel och därför måste man vara kritisk när det gäller något viktigt. 

Om du upplever att du oftast får galna svar är det inte konstigt att du ser den som en dålig informationskälla. Vi har helt olika upplevelser där. Jag upplever att ChatGPTs svar generellt är säkrare än en googling när det gäller ämnen jag inte har någon kunskap i. Dvs att risken att det blir fel är högre om jag själv försöker sammanställa kunskapen, än om jag låter ChatGPT göra det. 

När det gäller ämnet jag har en doktorsexamen i blir det däremot uppenbart att den inte når upp till expertnivå ännu. Så det är inte så att jag upplever att ChatGPT alltid har rätt, utan bara att den för mig generellt är ett mindre dåligt verktyg än Google.

Ja, så är det absolut. ChatGPT har inte förmågan att säga att den inte vet svaret på en viss fråga. Modellen har ingen aning om vad den själv vet eller inte vet, och den kommer att låta lika självsäker i sitt svar oavsett. Som jag skrev tidigare så kommer den också att ge en det svar den tror att man vill ha, så lägger du in fraser som ?det är väl som så att?? eller ?eller hur?? så kommer den sannolikt hålla med även om du har fel. Det är helt enkelt så dessa modeller fungerar och något man får anpassa sig till. Jag tror jag försökte förklara detta i mitt första svar, att svaret beror mycket på hur man promptar. 

Om du har någon eller några konversationer att dela med dig av där du fått galna svar, så kanske vi kan se om det går att påverka modellen att svara rätt? Helst något som inte är superkomplicerat utan en fråga som man som normalbegåvad vuxen kan svara rätt på efter max en halvtimmes påläsning, så att vi kan komma överens om vad som faktiskt är rätt svar. 

Lustigt att tråden puffades just idag -- av någon som inte använder den.

2 timmar kvar till GPT5