Ο Γιόσουα Μπέντζιο, ένας από τους πιο αναγνωρίσιμους ειδικούς στην τεχνητή νοημοσύνη, προειδοποιεί για ανησυχητικά φαινόμενα: τα νέα μοντέλα τεχνητής νοημοσύνης καταγράφουν επικίνδυνα χαρακτηριστικά, όπως η ψευδής ενημέρωση χρηστών.
Ο Καναδός ακαδημαϊκός έχει επηρεάσει σημαντικά τις τεχνικές που χρησιμοποιούν κορυφαίες εταιρείες, όπως η OpenAI και η Google.
«Δυστυχώς, υπάρχει σφοδρός ανταγωνισμός μεταξύ των εργαστηρίων, προκειμένου να γίνουν οι αλγόριθμοι πιο ευφυείς, χωρίς να δίνεται προτεραιότητα στην έρευνα για την ασφάλεια».
Every frontier AI system should be grounded in a core commitment: to protect human joy and endeavour. Today, we launch @LawZero_, a nonprofit dedicated to advancing safe-by-design AI. https://t.co/6VJecvaXYT pic.twitter.com/PfXw5lVqhF
— LawZero – LoiZéro (@LawZero_) June 3, 2025
Ο βραβευμένος με το βραβείο Turing Γιόσουα Μπέντζιο εξέφρασε αυτές τις ανησυχίες μέσω του Financial Times και ανακοίνωσε τη δημιουργία ενός νέου μη κερδοσκοπικού οργανισμού, του LawZero, που σκοπεύει στην ανάπτυξη ασφαλέστερων συστημάτων και στην προστασία της έρευνας από εμπορικές πιέσεις.
Η LawZero έχει ήδη συγκεντρώσει σχεδόν 30 εκατομμύρια δολάρια από φιλανθρωπικές δωρεές.
Πολλοί από τους υποστηρικτές του Μπέντζιο ανήκουν στο κίνημα του «αποτελεσματικού αλτρουισμού», που επικεντρώνεται στους κινδύνους που προκύπτουν από την τεχνητή νοημοσύνη.
Από την άλλη, οι επικριτές αυτής της προσέγγισης επισημαίνουν ότι αναδεικνύει υποθετικά σενάρια που μπορεί να καταλήγουν σε προκαταλήψεις και ανακρίβειες.
Ο Μπέντζιο δήλωσε ότι η μη κερδοσκοπική οργάνωσή του ιδρύθηκε ως απάντηση στην αυξανόμενη ανησυχία ότι τα σύγχρονα μοντέλα αναπτύσσουν επικίνδυνες δυνατότητες, όπως εξαπατήσεις, ψεύδη και αυτοσυντήρηση.
