Google ha scritto una “Costituzione robotica” per assicurarsi che i suoi nuovi droidi IA non ci uccidano
Il team di robotica di DeepMind ha rivelato tre nuovi progressi che, a suo avviso, aiuteranno i robot a prendere decisioni più rapide, migliori e più sicure in natura. Uno include un sistema per la raccolta di dati di addestramento con una “Costituzione robotica” per garantire che il tuo assistente robot d’ufficio possa procurarti più carta per stampante, ma senza falciare un collega umano che si trova sulla strada.
Il sistema di raccolta dati di Google, AutoRT, può utilizzare un modello di linguaggio visivo (VLM) e un modello di linguaggio di grandi dimensioni (LLM) che lavorano mano nella mano per comprendere l’ambiente, adattarsi a impostazioni non familiari e decidere attività appropriate. La Costituzione del robot, ispirata alle “Tre leggi della robotica” di Isaac Asimov, è descritta come una serie di “suggerimenti incentrati sulla sicurezza” che istruiscono l’LLM a evitare di scegliere compiti che coinvolgono esseri umani, animali, oggetti appuntiti e persino apparecchi elettrici.
Qui l’articolo completo: theverge.com/2024/1/4/24025535…
Ho capito. Quasi un anno fa, Google ha licenziato l’intero dipartimento di etica all’interno della sua organizzazione IA, ma ora abbiamo una ‘Costituzione’. Bravo.
