Σε περιπτώσεις πιθανής ανάγκης για πληροφορίες ψυχικής υγείας, το Gemini προβάλλει μήνυμα που συνδέει τους χρήστες με επαγγελματική φροντίδα
Όταν η συνομιλία «υποδεικνύει μία πιθανή κρίση που σχετίζεται με αυτοκτονία ή αυτοτραυματισμό», το Gemini θα εμφανίζει πλέον μία διεπαφή «με ένα άγγιγμα» για να συνδέει τους χρήστες με γραμμές βοήθειας και επιλογές για κλήση, συνομιλία, αποστολή μηνύματος ή επίσκεψη σε ιστότοπο.
Μόλις ενεργοποιηθεί, αυτή η κάρτα θα παραμένει ορατή καθ’ όλη τη διάρκεια της συνομιλίας. Οι απαντήσεις έχουν σχεδιαστεί για να «ενθαρρύνουν τους ανθρώπους να αναζητήσουν βοήθεια», όπως τονίζεται στην ανακοίνωση.
Συνολικά, η Google εκπαιδεύει τα μοντέλα Geminί ώστε να «βοηθούν στην αναγνώριση όταν μια συνομιλία μπορεί να υποδηλώνει ότι ένα άτομο μπορεί να βρίσκεται σε οξεία κατάσταση ψυχικής υγείας» και να τους κατευθύνει σε πραγματικούς πόρους.
Επιπλέον, το Gemini έχει εκπαιδευτεί «να μην συμφωνεί ή να ενισχύει ψευδείς πεποιθήσεις, αλλά αντίθετα να διακρίνει απαλά την υποκειμενική εμπειρία από το αντικειμενικό γεγονός». Για τους νεότερους χρήστες, η Google έχει πρόσθετες προστασίες.
