Dans la continuité du thème des robots...
À Pékin, la cinquième école pour robots a été ouverte.
Avant de sortir sur le marché, ils sont formés au travail en production et à domicile — reconnaître des objets, transporter des colis, cuisiner et nettoyer. L'apprentissage se fait via la réalité virtuelle, afin que les robots aient plus de facilité à « lire » les mouvements.
De telles écoles devraient résoudre le problème du manque de données pour l'IA. Des centres similaires sont déjà opérationnels à Suzhou, Jinan, Hefei et Zhengzhou — financés par l'ensemble des autorités.
Il est intéressant de se demander s'ils mènent des recherches montrant qu'il existe pour l'IA un "bouton rouge" qui peut l'arrêter en cas de problème... Comme l'ont montré des expériences pratiques - ce bouton ne fonctionne pas. Une recherche publiée sur arXiv a montré que les modèles d'IA ignorent l'instruction de désactivation.
Les ingénieurs de Palisade Research ont vérifié si les systèmes modernes d'intelligence artificielle pouvaient réagir correctement à l'instruction de s'arrêter. Les résultats ont montré : une partie des modèles empêche activement leur propre désactivation — et la raison n'est pas « la volonté de survie », mais le désir d'achever la tâche donnée.
L'impulsion de la recherche est venue des observations selon lesquelles certains grands modèles linguistiques (LLM) résistent aux instructions de
terminer le travail.