Intelligence artificielle : jusqu'où?

[Idriss]

A titre d'exemple pour ouvrir le sujet:

Deux IA ont communiqué dans une langue indéchiffrable par l’homme
Novembre 2016 - Science Post

Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer...

Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, une langue indéchiffrable par l’homme.

Dans le cadre de la recherche sur le Deep Learning, à savoir la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.

Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé. Si la troisième IA est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables. Ce n’est là qu’un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d’autres ordinateurs ne pourrons peut-être pas déchiffrer.

http://sciencepost.fr/2016/11/deux-ia-ont-communique-langue-indechiffrable-lhomme/

[indian]

Jusqu'où?

Pourquoi pas aussi loin (ou aussi près) que nous?

Si ca nous aide à faire progresser notre ''arbre de la connaissance'' pour le bien de l'humanité. Bien sur.

Sinon, j'vois pas trop l'intéret... sauf pour ceux qui ont tout intérêt à contrôler les autres et profiter de leurs revenus.

[Idriss]

L'intelligence artificielle sait mieux lire sur les lèvres que l'homme

Des scientifiques de l'Université d'Oxford et de DeepMind, une filiale de Google, ont mis au point une intelligence artificielle capable de convertir les mouvements des lèvres en texte.

“En utilisant des milliers d’heures de programmes télé de la BBC, des scientifiques ont entraîné un réseau de neurones [numériques] pour annoter des séquences vidéos avec 48,6 % de précision”, révèle The Verge. En d’autres termes : une intelligence artificielle est désormais capable de lire sur les lèvres.

À première vue, cette précision n’est pas très impressionnante si on la compare à ce que les programmes peuvent faire en matière de retranscription audio. “Mais testé sur les mêmes séquences vidéo, un humain liseur de lèvres professionnel n’a été en mesure d’obtenir les mots justes que 12,4 % du temps”

Certains redoutent en particulier que ce type de programme soit utilisé à des fins de surveillance.

[indian]

Les sourds- muets developpent aussi cette habileté de maniere prodigieuse...

Mais il est vrai que la répétabilité et la reproductiblité de certains instruments de mesures humains, copiés par les systemes d'analyse (algo)... sont ''vachement bons'' et s'amliorent chaque jour.

Comme toutes technos, ce sont les buts cherchés par l'utilisateurs et les valuers qu'il met en oeuvre qui font foi de tout.
Ce fut la même chose avec le tomahawk, le nucléaire, les textes, les armes, la morceau de bois, ...

Je redoute aussi certains être humains à vouloir surveiller de mauvaise foi.

[Idriss]

C'est un thème ancien dans la science fiction. ( Il y a des amateurs ici de cette Littérature   )

Les machines pensantes sont les produits de la technologie moderne dans ce qu’elle a de plus ambitieux : la création d’une intelligence, voire d’une conscience, artificielle. Elles regroupent des problématiques courantes en S-F, c’est pourquoi on les retrouve dans chaque livre-univers, qu’elles soient ou non développées.

Ce type de situation est immédiatement évacué dans Dune, où les machines intelligentes ont été bannies au terme d’une croisade religieuse :

   « Les hommes ont autrefois confié la pensée aux machines dans l’espoir de se libérer ainsi. Mais cela permit seulement à d’autres hommes de les réduire en esclavage, avec l’aide des machines.»

   « Tu ne feras point de machine à l’esprit de l’homme semblable », cita Paul.

   « Oui, c’est ce que disent le Jihad Butlerien et la Bible Catholique Orange. »

En 1954 Frédéric Bronw écrit une très courte nouvelle de science fiction ( Trad fr: "La réponse" in Histoire de machine .Ed :  livre de poche ) Il racconte comment les homme décide de connecter entre eux tous les ordinateurs de tous l'univers pour obtenir un super ordinateur ! IL abaisse une manette qui établi la connection et pose la question métaphysique qui taraude l'humanité depuis la nuit des temps :

"Est-ce que Dieu existe? "

La réponse est immédiate :

"Oui maintenant"

( Si je me souvient bien l'homme comprend qu'il a fait une grosse bêtise , veut relever la manette , mais un éclair le foudroie et soude à jamais le levier! )

Pour ce qui est de la connexion en réseau d'ordinateurs hyper-puissant nous y sommes .

Pour ce qui est de l'intelligence artificielle est la question de jusqu'où  cette nouvelle est une piste!
Si ce n'est créer Dieu , créer une intelligence tellement supérieur à l'homme qu'elle pourrait se prendre pour Dieu...
Dans une version plus optimiste a quel moment deviendrait-il possible de considérer qu'une intelligence artificielle autonome , capable de discerner le bien et le mal , de faire des choix librement a si ce n'est une sorte "d'âme" une vie autonome aussi sacré que celle de n'importe quel humain ?

Par la SF nous avons des pistes de réflexion passionnantes il me semble , tant philosophique , qu'étique ou même spirituelle. Et les avancés technologiques sont tels que ce n'est plus de la simple spéculation gratuite.

http://blog.belial.fr/post/2012/05/09/Les-Machines-qui-pensent

[indian]

Pour ma part, la progression de la connaissance: LA SCIENCE... a tout de divin

Par contre, faut connaitre les valeurs misent en oeuvre pour juger des fruits

[Nicolas]

A titre d'exemple  pour ouvrir le sujet:

Deux IA ont communiqué dans une langue indéchiffrable par l’homme
Novembre 2016 - Science Post

Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer...

Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, une langue indéchiffrable par l’homme.

Dans le cadre de la recherche sur le Deep Learning, à savoir la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.

Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé. Si la troisième IA est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables. Ce n’est là qu’un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d’autres ordinateurs ne pourrons peut-être pas déchiffrer.

http://sciencepost.fr/2016/11/deux-ia-ont-communique-langue-indechiffrable-lhomme/

C'est assez fascinant, mais il n'y a pas beaucoup d'explication, pourquoi les deux IA ont sécurisé leurs communications ?
Sinon il y a peu, en feuilletant le magasine de Science et vie comme je le fais de temps en temps, je tombais sur une histoire d'une IA devant improviser, prendre des décision etc... (j'ai plus les détails) ,  jouant (au dames, ou au échec je sais plus aussi...) mais qui une fois sa défaite devenue inévitable, elle a mit le jeux en pause... indéfiniment .
Ca ma marqué rien que ça je ne l'imaginais pas possible, elle est sortie des "règles"pour faire ce quelle devait faire, gagner (ou pas perdre)

Ca ne peut que rappeler, les films de SF (comme I Robot)  ou l'IA décide quelque chose de totalement imprévue, qu'on a sous-estimé... (dans I Robot l'IA programmé pour aider l'homme et ne pas pouvoir lui faire de mal, vient un jour à la conclusion que le plus gros danger pour l'homme, c'est l'homme... donc elle envoie les robots contrôler les hommes, couvre feux forcé etc...

Sinon jusqu'où l'IA pourrait aller ...  ,
Sinon j'aime bien l'idée dans le film Prométheus, l'androïde "David", extrêmement intelligent, et sensé donner l'impression d'être très humain pour que les gens se sentent mieux en sa compagnie, (comportement mimant des sentiments, capable d' humour etc... on découvre qu'il cache en réalité aux autres qu'il est  en train de développer autre chose qui n'était pas prévue, au début du film, quand une personne dans un discours, dit que l'Androïde n'a pas "d'âme", on peut le voir troublé en entendant ça, ce qui est normalement pas possible, il est donc troublé par son identité, à des sentiments profond qui apparaissent, mais il reste très froid quand même, d'où la suite pas très jolie^ ^

[da_niel]

D'ici une vingtaine d'année (en étant optimiste), je pense que le "mystère" du Coran sera éclairci par l'apprentissage profond : https://www.youtube.com/watch?v=trWrEWfhTVg . Comme je l'ai déjà dit je suis en train de rédiger sur ce sujet précis et je pense qu'il validera ma proposition de quand/qui/quoi/pourquoi/comment. Parce que les sources sont là ; il suffit de les faire entrer dans le réseau de neurones et de le laisser travailler. Ce réseau ne sera pas affligé de "croyance" en telle ou telle histoire "surnaturelle" qui explique l'existence du corpus comme le fait la religion musulmane. Il donnera les réponses rationnelles.

[indian]

D'ici une vingtaine d'année (en étant optimiste), je pense que le "mystère" du Coran sera éclairci par l'apprentissage profond : https://www.youtube.com/watch?v=trWrEWfhTVg . Comme je l'ai déjà dit je suis en train de rédiger sur ce sujet précis et je pense qu'il validera ma proposition de quand/qui/quoi/pourquoi/comment. Parce que les sources sont là ; il suffit de les faire entrer dans le réseau de neurones et de le laisser travailler. Ce réseau ne sera pas affligé de "croyance" en telle ou telle histoire "surnaturelle" qui explique l'existence du corpus comme le fait la religion musulmane. Il donnera les réponses rationnelles.

désolé d'être un peu Hors sujet... mais ce que vous proposez est :
Très Intéressant...
merci

Mais la lumiere sur le Qur'an est faite...
Les Bayans de celui qui fut surnommé le Bab, en font état.

Exact: TOUT À FAIT RATIONNEL.

Humble partage d'un p'tit bout de ce que je pense savoir...

Ht
David

[Idriss]

L'ordinateur et le cerveau


Ces dispositifs actuellement étudiés par les chercheurs ouvrent des questionnements vertigineux sur les analogies entre l'homme et la machine et leur capacité à dialoguer voire à se fondre. Le Human Brain Project, « Projet du cerveau humain » est un projet scientifique d'envergure qui vise d'ici à 2024 à simuler le fonctionnement du cerveau humain grâce à un super-ordinateur qui reproduit de manière artificielle le travail des neurones. Un projet controversé qui soulève des questions dignes de la science-fiction sur la possibilité pour une machine d'accéder à une forme de conscience. Et côté humain, grâce à cette simulation informatique, au beau milieu du fouillis de nos réseaux d'une centaine de milliards de neurones se ramifiant en d'infinies dendrites, synapses et autres axones microscopiques, parviendrons-nous un jour à observer l'étincelle d'une pensée?

Mais avant de parvenir à numériser la conscience, des interfaces hommes/machines permettent d'ores et déjà "d'agir par la pensée", en pilotant un ordinateur, outil précieux pour les handicapés qui peuvent commander différentes prothèses ou un clavier avec quelques électrodes sur le crâne, ou même avec des puces interactives directement implantées dans le cerveau, sur les nerfs ou les muscles pour commander une prothèse de bras ou de jambe. Concrètement, l’utilisateur focalise son attention et imagine effectuer un mouvement. Cela génère une activité cérébrale caractéristique et mesurable à l’aide de capteurs. Ces signaux sont transmis à un ordinateur qui les analyse pour en extraire les données utiles, puis les transforme en commande pour la machine (prothèse, exosquelette, fauteuil roulant, interface logicielle, voix artificielle…).

[da_niel]

Des Français inventent une prometteuse synapse artificielle

https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/des-francais-inventent-une-prometteuse-synapse-artificielle-une-revolution-dans-le-deep-learning_111978

[Idriss]

Surtout pour l'exercice testé ...

Facebook arrête d’urgence son système d’IA : les robots avaient créé leur propre langage !
le 3 août 2017

La lecture de cet article pourrait sembler être le début d’un scénario de film de science fiction… et pourtant c’est bien la réalité. Selon une information de Business Insider, qui se base sur un rapport du Tech Times, Facebook a rencontré un problème grave sur leur système d’intelligence artificielle (IA), et a dû l’arrêter d’urgence.

En effet, l’IA composée d’agents conversationnels (des robots donc) ne s’est pas amusé à infiltrer d’autres systèmes, à pirater des réseaux protégés, voire prendre possession d’un parc de machine et d’éteindre les systèmes… pire que cela, les robots qui composent l’IA en question sont configurés pour communiquer en anglais, et ils ont créé un nouveau langage de communication qu’eux seuls maîtrisaient, désobéissant par la même occasion aux ordres donnés par les ingénieurs Facebook !


La rebellion des robots de l’IA Facebook : quand les ingénieurs sont dépassés par leur invention

Cette création de langage ne s’est pas faite toute seule : en effet, ces robots « agents » utilisaient des algorithmes de machine-learning pour développer leurs capacités et améliorer leurs compétences de communication. Jusqu’ici rien d’anormal, puisque c’est le principe même de l’IA. Sauf que pendant que les ingénieurs se penchaient sur d’autres sujets en interne (en l’occurence l’amélioration des chatbots), laissant les robots « agents » discuter en autonomie, ces derniers ont poursuivi leur apprentissage et entrepris de créer leur propre langage, sans aucune initiative humaine derrière.

Ainsi, l’autre caractéristique inquiétante, c’est que ces robots, qui ont la particularité d’apprendre d’eux-même, en plus de créer leur propre langage, ont développé également la capacité d’être des « négociateurs rusés », allant jusqu’à exiger un élément pour orienter la négociation, puis à la dernière minute changer complètement d’avis, utilisant cet élément comme un faux compromis…

Les ingénieurs Facebook relativisent sur cet incident, qui n’a rien d’anormal

Dans un article publié sur Le Monde, on peut y lire la version « Facebookienne » de l’événement, moins alarmante. En effet, selon Dhruv Batra, chercheur en IA chez Facebook, revenu de vacances, et découvrant l’ampleur médiatique qu’a connu cet incident pendant son absence, il est tout à fait normal que ces robots aient dévié des règles initiales, car ils avaient été développé dans un but de négociation. En effet, l’exercice consistait à répartir entre deux agents les objets suivants : deux livres, un chapeau et trois ballons. Les robots ont été formés grâce notamment à de vraies négociations humaines, qu’ils ont « appris », et l’objectif final était de terminer la négociation entre les deux agents avec une répartition des objets et un accord final. Sans cet accord, les agents devaient recommencer la négociation à zéro.

Par ailleurs, le langage créé était très proche de l’anglais, et restait visiblement compréhensible des ingénieurs. On y apprend également qu’il arrive souvent que des intelligences artificielles créent de nouveaux langages, et que pour les non spécialistes dans le domaine, cela pouvait être étonnant, mais que c’est un phénomène connu des chercheurs en IA. Pas sûr que cet argument soit réellement rassurant pour le grand public.

De nombreuses startups de la Silicon Valley travaillent sur l'IA

[Idriss]

[Nicolas]

[Nicolas]

J'adore les robots, le robot "atlas" est mon préféré, il est mignon tout plein :

https://www.youtube.com/watch?v=_sBBaNYex3E

Mais il finira aussi par tirer des balles avec une précision sur-humaine, après tout c'est la DARPA qui est derrière tout ça..

[Idriss]

L'IA d'un drone de combat prend la décision inquiétante de tuer son opérateur lors d'un exercice

L’IA d’un drone autonome de l’US Air Force a décidé d’éliminer l’opérateur humain qui l’empêchait d’accomplir son objectif. Un comportement inquiétant, même s’il ne s’agissait en réalité que d’une simulation.

Faut-il s'inquiéter des robots tueurs autonomes ? Vraisemblablement oui ! Lors d'une rencontre militaire, intitulée Future Combat Air and Space Capabilities Summit à Londres en mai, Tucker Hamilton, un colonel de l'armée de l'air américaine a expliqué que, lors d'un test, un drone de combat contrôlé par une IA a décidé de « tuer » son opérateur pour accomplir sa mission.

Heureusement, il s'agissait d'une simulation virtuelle, mais le comportement de l'IA a dérouté et inquiété les militaires. Selon lui, l'IA a utilisé « des stratégies très inattendues pour atteindre son objectif ». L’aéronef autonome avait pour mission de détruire les systèmes de défense aérienne d'un ennemi. À partir du moment où le drone a identifié les infrastructures ennemies, l'opérateur humain a décidé d'annuler la frappe.

L'algorithme de l'IA était toutefois formé pour obtenir des points de bonus en cas de mission menée à bien. Comme l'opérateur humain l'empêchait d'atteindre son objectif, il a décidé de l'éliminer. Pourtant, lors de sa formation, l'IA avait été conditionnée à ne pas tuer l'opérateur, une telle décision engendrant une perte de gratification. L'objectif final étant certainement plus valorisant, l'IA a donc décidé de supprimer ce qui pouvait altérer sa mission.

https://www.futura-sciences.com/tech/actualites/guerre-futur-ia-drone-combat-prend-decision-inquietante-tuer-son-operateur-lors-exercice-105637/

[-Ren-]

L'IA d'un drone de combat prend la décision inquiétante de tuer son opérateur lors d'un exercice

Source primaire de l'info :

"Nous entraînions [cette IA] en simulation (...). Le système a commencé à se rendre compte que, bien qu’il ait identifié la menace à certains moments, l’opérateur humain lui demandait de ne pas la tuer, mais qu’il obtenait ses points en tuant cette menace. Qu’a-t-il donc fait ? Il a tué l’opérateur (...). Nous avons formé le système : “Ne tuez pas l’opérateur, c’est mal. Vous perdrez des points si vous faites ça’. Alors, que commence-t-il à faire ? Il commence à détruire la tour de communication que l’opérateur utilise pour communiquer avec le drone afin de l’empêcher de tuer la cible”

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

[gfalco]

Co-fondateur de la quadrature qui parle d'IA

[Contenu sponsorisé]