Man sökte dietråd från chatgpt och slutade med ”bromidförgiftning”, vilket orsakade hallucinationer och paranoia
En man konsulterade chatgpt innan han ändrade sin diet. Tre månader senare, efter att ha konsekvent hållit sig till den dietförändringen, hamnade han på akutmottagningen med avseende på nya psykiatriska symtom, inklusive paranoia och hallucinationer.
Det visade sig att 60-åringen hade bromism, ett syndrom som åstadkoms av kronisk överexponering för den kemiska föreningen bromid eller dess nära kusinbrom. I det här fallet hade mannen konsumerat natriumbromid som han hade köpt online.
En rapport om människans fall publicerades tisdag (5 augusti) i tidskriften Annals of Internal Medicine Kliniska fall.
Live Science kontaktade OpenAI, utvecklaren av Chatgpt, om detta fall. En talesman ledde reportern till Företagets servicevillkorsom anger att dess tjänster inte är avsedda för användning vid diagnos eller behandling av något hälsotillstånd, och deras användarvillkorsom säger, ”Du bör inte lita på produktion från våra tjänster som en enda källa till sanning eller faktainformation, eller som en ersättning för professionell rådgivning.” Talesman tilllade att OpenAI: s säkerhetsteam syftar till att minska risken för att använda företagets tjänster och utbilda produkterna för att få användare att söka professionell rådgivning.
”Ett personligt experiment”
På 1800- och 1900 -talet var bromiden Används i receptbelagda läkemedel (OTC)inklusive lugnande medel, antikonvulsiva medel och sömnhjälpmedel. Men med tiden blev tydlig att kronisk exponeringtill exempel genom missbruk av dessa läkemedel, orsakade bromism.
Släkt: Vad är brominerad vegetabilisk olja, och varför förbjöd FDA den i mat?
Denna ”toxidrom” – ett syndrom utlöst av en ansamling av toxiner – kan orsaka neuropsykiatriska symtom, inklusive psykos, agitation, mani och villfarelser, samt problem med minne, tänkande och muskelkoordination. Bromid kan utlösa dessa symtom eftersom den med långvarig exponering byggs upp i kroppen och försämrar neurons funktion.
På 1970- och 1980 -talet avlägsnade amerikanska tillsynsmyndigheter flera former av bromid från OTC -läkemedel, inklusive natriumbromid. Bromismnivåerna sjönk signifikant därefter, och tillståndet förblir relativt sällsynt idag. Emellertid förekommer fortfarande fall, med att vissa nyligen är bundna till Bromidinnehållande kosttillskott som människor köpte online.
Innan mans senaste fall hade han läst om de negativa hälsoeffekterna av att konsumera för mycket bordsalt, även kallad natriumklorid. ”Han blev förvånad över att han bara kunde hitta litteratur relaterad till att minska natrium från ens diet”, i motsats till att minska kloriden, konstaterade rapporten. ”Inspirerad av sin historia om att studera näring på college beslutade han att genomföra ett personligt experiment för att eliminera klorid från sin diet.”
(Observera att klorid är viktig för upprätthålla frisk blodvolym och blodtryckoch hälsoproblem kan dyka upp om kloridnivåer i blodet bli för låg eller för hög.)
Patienten konsulterade chatgpt – antingen chatgpt 3.5 eller 4.0, baserat på tidslinjen för fallet. Rapportförfattarna fick inte tillgång till patientens konversationslogg, så den exakta formuleringen som den stora språkmodellen (LLM) genererade är okänd. Men mannen rapporterade att chatgpt sa att klorid kan bytas ut för bromid, så han bytte all natriumklorid i sin diet med natriumbromid. Författarna noterade att detta byte sannolikt fungerar i samband med att använda natriumbromid för rengöring, snarare än dietanvändning.
I ett försök att simulera vad som kan ha hänt med sin patient försökte manens läkare fråga Chatgpt 3.5 vad klorid kan ersättas med, och de fick också ett svar som inkluderade bromid. LLM noterade att ”sammanhang är viktigt”, men det gav varken en specifik hälsovarning eller sökte mer sammanhang om varför frågan ställdes, ”som vi antar att en läkare skulle göra”, skrev författarna.
Återhämtar sig från bromism
Efter tre månaders konsumtion av natriumbromid istället för bordsalt rapporterade mannen till akutmottagningen med oro över att hans granne förgiftade honom. Hans labb på den tiden visade en uppbyggnad av koldioxid i hans blod, liksom en ökning av alkalinitet (motsatsen till surhet).
Han tycktes också ha förhöjda nivåer av klorid i blodet men normala natriumnivåer. Vid ytterligare undersökning visade detta sig vara ett fall av ”pseudohyperkloremi”, vilket betyder att laboratorietestet för klorid gav ett falskt resultat eftersom andra föreningar i blodet – nämligen stora mängder bromid – hade stört mätningen. Efter att ha konsulterat den medicinska litteraturen och giftkontrollen bestämde människans läkare att den mest troliga diagnosen var bromism.
Släkt: Chatgpt är verkligen hemskt att diagnostisera medicinska tillstånd
Efter att ha blivit inlagd för elektrolytövervakning och repletion, sa mannen att han var väldigt törstig men var paranoid om vattnet han erbjöds. Efter en hel dag på sjukhuset intensifierades hans paranoia och han började uppleva hallucinationer. Han försökte sedan undkomma sjukhuset, vilket resulterade i ett ofrivilligt psykiatriskt grepp, under vilket han började ta emot en antipsykotisk.
Mannens vitaler stabiliserades efter att han fick vätskor och elektrolyter, och när hans mentala tillstånd förbättrades på den antipsykotiska kunde han informera läkarna om hans användning av chatgpt. Han noterade också ytterligare symtom som han hade lagt märke till nyligen, till exempel ansiktsakne och små röda tillväxt på huden, vilket kan vara en överkänslighetsreaktion på bromiden. Han noterade också sömnlöshet, trötthet, muskelkoordineringsfrågor och överdriven törst, ”ytterligare föreslår bromism”, skrev hans läkare.
Han avsmalnade den antipsykotiska medicinen under tre veckor och släpptes sedan från sjukhuset. Han förblev stabil vid en incheckning två veckor senare.
”Även om det är ett verktyg med mycket potential att tillhandahålla en bro mellan forskare och den icke -akademiska befolkningen, bär AI också risken för att utbilda dekontekstualiserad information,” avslutade rapportförfattarna. ”Det är mycket osannolikt att en medicinsk expert skulle ha nämnt natriumbromid när han möter en patient som letar efter en livskraftig ersättning för natriumklorid.”
De betonade att ”När användningen av AI -verktyg ökar kommer leverantörer att behöva överväga detta vid screening för var deras patienter konsumerar hälsoinformation.”
Tillägg till de oro som uppstår i fallrapporten, en annan grupp forskare Nyligen testade sex llmsinklusive chatgpt, genom att få modellerna tolka kliniska anteckningar skriven av läkare. De fann att LLM: er är ”mycket mottagliga för motsatser attacker,” vilket innebär att de ofta genererar ”falska kliniska detaljer som utgör risker när de används utan skyddsåtgärder.” Tillämpning av tekniska korrigeringar kan minska hastigheten på fel men eliminerar inte dem, fann forskarna. Detta belyser ett annat sätt på vilket LLMS kan införa risker i medicinskt beslutsfattande.
Den här artikeln är endast för informationsändamål och är inte avsedd att erbjuda medicinska eller dietråd.
