Ο ασθενής είπε στους γιατρούς ότι έψαχνε τρόπους για να μειώσει την πρόσληψη αλατιού (χλωριούχου νατρίου). Είχε διαβάσει για τις βλαβερές του συνέπειες και είχε βρει συμβουλές για τη μείωση της κατανάλωσης νατρίου, αλλά δεν μπορούσε να βρει καμία δημοσίευση σχετικά με τη μείωση της πρόσληψης χλωριούχου.
Βασιζόμενος στις σπουδές του στη διαιτολογία στο κολέγιο, ο άνδρας αποφάσισε να διεξάγει το δικό του πείραμα για να εξαλείψει τα χλωριούχα από τη διατροφή του. Για συμβουλές, στράφηκε σε ένα chatbot τεχνητής νοημοσύνης. Σύμφωνα με τον ασθενή, το chatbot πρότεινε την αντικατάσταση του χλωριούχου νατρίου με βρωμιούχο νάτριο — χωρίς να τον προειδοποιήσει για τους πιθανούς κινδύνους για την υγεία από μια τέτοια υποκατάσταση.
Οι ερευνητές δεν μπόρεσαν να έχουν πρόσβαση στο ιστορικό συνομιλιών του ασθενούς, αλλά με βάση τον χρόνο εμφάνισης των συμπτωμάτων δηλητηρίασης, είχε χρησιμοποιήσει είτε το ChatGPT 3.5 είτε το ChatGPT 4.0. Στις δικές τους δοκιμές, οι γιατροί έλαβαν την ίδια σύσταση για βρωμιούχο νάτριο όταν χρησιμοποιούσαν το ChatGPT 3.5 – πιθανώς την έκδοση που είχε συμβουλευτεί ο ασθενής.
Μετά από τρεις μήνες χρήσης βρωμιούχου νατρίου αντί για επιτραπέζιο αλάτι, ο άνδρας εμφάνισε βρωμισμό—ένα σύνδρομο που προκαλείται από χρόνια υπερβολική έκθεση σε βρωμιούχο ή βρώμιο. Αυτή η σπάνια πάθηση εμφανίζεται όταν η τοξίνη συσσωρεύεται στο σώμα, προκαλώντας ενδεχομένως νευροψυχιατρικά συμπτώματα.
Ο ασθενής πήγε στα επείγοντα φοβούμενος ότι ο γείτονάς του τον είχε δηλητηριάσει—η παράνοια ήταν ένα από τα σημάδια βρωμισμού. Άλλα συμπτώματα περιελάμβαναν παραισθήσεις, αϋπνία, ακμή, κακό συντονισμό και υπερβολική δίψα. Οι εξετάσεις έδειξαν αυξημένα επίπεδα βρωμιδίου στο αίμα του. Αφού προσπάθησε να δραπετεύσει από το νοσοκομείο, μεταφέρθηκε σε ψυχιατρική φροντίδα.
Μόλις η ψυχική του κατάσταση βελτιώθηκε με την αντιψυχωσική θεραπεία, μπόρεσε να ενημερώσει τους γιατρούς για τις συμβουλές που είχε λάβει από το ChatGPT.
Με παρατεταμένη έκθεση, το βρωμίδιο συσσωρεύεται στο σώμα και διαταράσσει τη λειτουργία των νευρώνων. Τον 19ο και 20ό αιώνα, το βρωμίδιο χρησιμοποιήθηκε σε συνταγογραφούμενα και μη συνταγογραφούμενα φάρμακα, συμπεριλαμβανομένων των ηρεμιστικών και των υπνωτικών. Ωστόσο, στις δεκαετίες του 1970 και του 1980, οι ρυθμιστικές αρχές αφαίρεσαν τα βρωμίδια από τα μη συνταγογραφούμενα φάρμακα, αφού ανακάλυψαν τις τοξικές τους επιδράσεις.
Σχολιάζοντας την υπόθεση, εκπρόσωποι της OpenAI αναγνώρισαν τους περιορισμούς της υπηρεσίας. Οι όροι χρήσης του ChatGPT αναφέρουν ότι δεν προορίζεται για τη διάγνωση ή τη θεραπεία ιατρικών παθήσεων και οι χρήστες δεν πρέπει να βασίζονται στις απαντήσεις του ως μοναδική πηγή ιατρικών πληροφοριών ή ως υποκατάστατο επαγγελματικών συμβουλών.
