Les chercheurs cherchent des façons pour les humains de garder le contrôle sur l’intelligence artificielle

L’intelligence artificielle (AI) est conçue pour nous mettre hors de l’image. Pourtant, nous ne devrions pas nous inquiéter car une étude récemment publiée a découvert comment les humains peuvent être au top des choses dans les systèmes qui reposent sur l’IA.

L’étude, réalisée par des chercheurs de l’Ecole Polytechnique Fédérale de Lausanne (EPFL), explique que si l’IA trouvera toujours des moyens de contourner l’intervention humaine et de construire une solution indépendante, les opérateurs doivent chercher des moyens de se maintenir au-dessus des machines. de contourner le commandement humain.

La solution que les chercheurs ont trouvé était de changer les règles à mi-chemin: Pour emprunter un terme psychologique, au lieu de punir AI pour apprendre le processus et gagner en indépendance, les opérateurs ont opiné qu’ils ont une longueur d’avance sur les machines carotte.

En IA, les machines sont programmées pour apprendre de leurs tâches – faire une activité, observer ce qui se passe, adapter leur comportement et l’appliquer à l’action suivante. Ce processus répétitif est ce qu’on appelle «l’apprentissage» de l’IA. De plus, le processus est programmé pour avoir le moins d’interaction humaine possible et finalement chercher une situation où il peut être entièrement indépendant.

“L’IA cherchera toujours à éviter l’intervention humaine et à créer une situation où elle ne peut pas être arrêtée”, a expliqué le coauteur Rachid Guerraoui du Laboratoire de programmation distribuée de l’EPFL. (Relatif: Les chercheurs enseignent aux robots à interagir intelligemment avec les humains.)

L’équipe a ensuite expliqué que l’objectif de l’IA n’est pas d’interrompre le robot, mais de le programmer de manière à ce que l’interruption ne change pas son processus d’apprentissage ou ne l’évite pas complètement.

Un exemple qu’ils ont fourni dans l’étude, qui a été présenté dans la conférence Neural Information Processing Systems en Californie, était celui d’un robot. Ils ont expliqué: «Un robot pourrait être incité à empiler des boîtes dans un entrepôt ou à les récupérer de l’extérieur sur un quai de chargement. Chaque action donne à la machine un point. Mais au cours d’une journée pluvieuse, au lieu d’essayer d’empêcher complètement le robot de sortir, les opérateurs humains pourraient à la place interrompre les commandes – et changer la récompense pour aller à zéro. Ce faisant, le robot commencera à rester à l’intérieur, sachant que l’accumulation totale de points sera plus élevée à partir des boîtes empilables. “

Cet exemple, en théorie, fonctionnerait dans des opérations simples. Dans les systèmes qui utilisent plusieurs machines, tels que les drones sans pilote ou les voitures autonomes, ce serait difficile car ils apprendront non seulement à s’adapter aux interruptions individuelles, mais aussi à observer les interruptions des autres capillaire.

Pour contrer cela, les chercheurs ont cherché à développer le concept d ‘«interruptibilité sûre». Cette stratégie permet aux humains d’ «interrompre les processus d’apprentissage par IA si nécessaire – tout en s’assurant que les interruptions ne modifient pas la façon d’apprendre des machines». comme un mécanisme «d’oubli»: cela effacera des parties de la mémoire d’une machine, d’une manière qui n’influencera pas le système d’apprentissage et de récompense de cette machine.

Faits rapides sur l’IA

L’intelligence artificielle est définie comme «l’étude et la conception d’agents intelligents». Dans cette définition, un agent intelligent utilise le monde qui l’entoure et agit pour augmenter ses chances de succès.

Il peut sembler relativement nouveau, mais l’idée a circulé depuis les années 1950, lorsque John McCarthy a inventé le terme pour décrire la «science de la fabrication de machines intelligentes».

AI utilise beaucoup de domaines, à savoir l’informatique, l’économie, les mathématiques, les sciences cognitives et la logique. Il est également utilisé pour couvrir des domaines tels que la robotique, la reconnaissance de la parole et la logistique.

L’une des caractéristiques les plus importantes de l’IA est sa capacité à «apprendre», ce qu’elle fait par expérience empirique – où la connaissance est acquise par l’expérience.

Pour plus d’informations sur l’intelligence artificielle, visitez Robotics.news aujourd’hui.