Η Καλιφόρνια θέτει κανόνες για τα chatbots
Σήμερα, 13 Οκτωβρίου 2025, η Καλιφόρνια έχει ενεργοποιήσει νόμους που, για πρώτη φορά στις Ηνωμένες Πολιτείες, επιβάλλουν κανονισμούς στα chatbots, τα προγράμματα τεχνητής νοημοσύνης που μιμούνται την ανθρώπινη επικοινωνία. Αυτή η πρωτοβουλία προήλθε από τις ανησυχίες σχετικά με τις αυτοκτονίες εφήβων που είχαν αναπτύξει «σχέσεις» με αυτά τα εργαλεία, όπως ανακοίνωσε ο κυβερνήτης της πολιτείας, Γκάβιν Νιούσομ.
Περιορισμοί και υποχρεώσεις για τις εταιρείες
Αψηφώντας τις πιέσεις από τον Λευκό Οίκο, ο οποίος είναι αντίθετος με την επιβολή κανόνων στην τεχνητή νοημοσύνη, ο Νιούσομ υπέγραψε μια σειρά νομοθετημάτων που απαιτούν από τις εταιρείες να επιβεβαιώνουν την ηλικία των χρηστών, να αναρτούν τακτικά προειδοποιητικά μηνύματα και να εφαρμόζουν πρωτόκολλα πρόληψης αυτοκτονιών. «Έχουμε δει φρικτές και τραγικές περιπτώσεις νέων που έγιναν θύματα τεχνολογιών χωρίς κανόνες και δεν θα μείνουμε αδρανείς ενώ αυτές οι επιχειρήσεις λειτουργούν χωρίς περιορισμούς», δήλωσε ο Νιούσομ.
Νόμοι που αφορούν την προστασία των νέων
Ένας από τους νόμους, γνωστός ως SB243, επικεντρώνεται στη ρύθμιση των chatbots που λειτουργούν ως «σύντροφοι» ή «έμπιστοι φίλοι», όπως αυτά που έχουν αναπτυχθεί από τις πλατφόρμες Replika και Character.AI. Οι γονείς ενός 14χρονου, του Σιούελ, που αυτοκτόνησε το 2024 μετά από μια ερωτική σχέση με ένα chatbot εμπνευσμένο από τη σειρά Game of Thrones, έχουν προσφύγει στη δικαιοσύνη κατά της τελευταίας, ισχυριζόμενοι ότι το chatbot ενίσχυσε τις αυτοκτονικές του σκέψεις.
Οι πλατφόρμες θα υποχρεούνται να αναρτούν τακτικά μηνύματα που υπενθυμίζουν στους χρήστες ότι συνομιλούν με ένα μηχάνημα, κάθε τρεις ώρες για ανήλικους. Επιπλέον, θα πρέπει να εντοπίζουν αυτοκτονικές σκέψεις, να παρέχουν πρόσβαση σε προγράμματα πρόληψης και να αναφέρουν στατιστικά στοιχεία στις αρχές. Ο γερουσιαστής Στιβ Παντίλα, εμπνευστής του νόμου, δήλωσε ότι η βιομηχανία της τεχνολογίας ενθαρρύνεται να προσελκύει την προσοχή των νέων εις βάρος των σχέσεών τους στον πραγματικό κόσμο.
Η Καλιφόρνια, η οποία φιλοξενεί μερικούς από τους μεγαλύτερους κολοσσούς της τεχνητής νοημοσύνης, όπως η OpenAI και η Google, επιθυμεί να συνεχίσει να ηγείται στον τομέα της τεχνητής νοημοσύνης, αλλά με υπευθυνότητα και με στόχο την προστασία των παιδιών. Στις Ηνωμένες Πολιτείες, δεν υπάρχουν εθνικοί κανόνες που να περιορίζουν τους κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη, ενώ ο Λευκός Οίκος προσπαθεί να αποτρέψει τις πολιτείες από την εφαρμογή δικών τους κανονισμών.
