Un programme bat le champion d'Europe du jeu de go, 5-0

[jean7]

Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.

Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.

Vois-tu une différence, vu comme ça ?

[kestaencordi]

Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.

Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.

Vois-tu une différence, vu comme ça ?

oui je vois.
voyez-vous la similitude? et toute l'autonomie de la machine?

[Invité]

Vois-tu une différence, vu comme ça ?

Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.

Ce que je vois c'est du pinaillage. D'ailleurs mon message de 11h54 illustrait ironiquement (ce qui semble vous avoir échappé) qu'en pinaillant on ne fait pas avancer grand chose.

Le système dispose d'une "autonomie" qui échappe à ses concepteurs. Et même si on en est pas encore là, c'est cette autonomie qui fait craindre ce genre de système d'IA à plusieurs scientifiques, dont Stephen Hawking. Des robots qui pourraient cesser de suivre fidèlement les objectifs choisit par leurs concepteurs, ça commence à en inquiéter plusieurs.

https://en.wikipedia.org/wiki/Open_Lett ... telligence

Et je me répète qu'on on est encore loin pour que ça cause de réels problèmes, mais c'est quand même dans la nature de la bête.

I.

[jean7]

Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.
Vois-tu une différence, vu comme ça ?

oui je vois.
voyez-vous la similitude? et toute l'autonomie de la machine?

Oui, bien sûr.
Quand elle joue, la machine est 100% autonome et d'une façon générale, personne ne peut prévoir ses décisions.

A force de travail, bien entendu, les IA sont de plus en plus I.

[jean7]

Vois-tu une différence, vu comme ça ?

Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.

Ce que je vois c'est du pinaillage. D'ailleurs mon message de 11h54 illustrait ironiquement (ce qui semble vous avoir échappé) qu'en pinaillant on ne fait pas avancer grand chose.

Le système dispose d'une "autonomie" qui échappe à ses concepteurs. Et même si on en est pas encore là, c'est cette autonomie qui fait craindre ce genre de système d'IA à plusieurs scientifiques, dont Stephen Hawking. Des robots qui pourraient cesser de suivre fidèlement les objectifs choisit par leurs concepteurs, ça commence à en inquiéter plusieurs.

https://en.wikipedia.org/wiki/Open_Lett ... telligence

Et je me répète qu'on on est encore loin pour que ça cause de réels problèmes, mais c'est quand même dans la nature de la bête.

I.

De 1h54 plutôt, je présume ?
J'adore pinailler...

En fait, invité, je ne sais même pas si on est en désaccord.
Veux-tu vraiment dire que l'équipe de développement de cette AI joueuse de go n'ont aucune raison de se sentir responsables de la victoire ?
Il ne me semble pas.
Alors a part relever le fait que je sois un pinailleur, pourquoi ne pas le reconnaitre ?

Paradoxalement, tu laisse planer le spectre d'un scénario à la terminator.
Mais vas plus loin, si on arrive à faire une IA qui parte en vrille et déclenche des catastrophes.
L'équipe de développement de celle-ci pourrait-elle oui ou non être traduite devant un tribunal pour homicide involontaire ? Ne pourrait-on pas leur reprocher de ne pas avoirs mis les verrous nécessaires pour que ladite cata soit impossible ?

C'est du pinaillage, mais si aujourd'hui les développeurs sont dans un trip où "on s'en tape, on fait une IA, ce qu'elle fera elle-même ne regardera qu'elle", est-ce que ça n'augmente pas considérablement les risques pour qu'une telle cata arrive plus rapidement ?

OK, je pinaille. Mais mon pinaillage est-il faux ?

[Invité]

Veux-tu vraiment dire que l'équipe de développement de cette AI joueuse de go n'ont aucune raison de se sentir responsables de la victoire ?
Il ne me semble pas.
Alors a part relever le fait que je sois un pinailleur, pourquoi ne pas le reconnaitre ?

Le reconnaitre ? C'est fait depuis mon premier message et plus loin j'ai donné un lien vers la conférence de presse de David Silver le directeur du projet AlphaGo. Je ne pense pas avoir minimisé leur travail.

L'intelligence artificielle (deep neural network) a fait des progrès foudroyants ces dernières années.
[...]
il y a une interview très intéressante avec David Silver chercheur et directeur du projet AlphaGo...

Paradoxalement, tu laisse planer le spectre d'un scénario à la terminator.

J'ai donné une référence vers ceux qui n'excluent pas la possibilité de dérapage sévère si on ne s'en préoccupe pas. Yann LeCun, Geoffrey Hinton, Peter Norvig ce sont des poids lourds dans le monde de l'IA, aussi Hawking, Frank Wilczek, Max Tegmark... http://futureoflife.org/ai-open-letter/

Pour ma part je ne crois pas le laisser planer de scénario, sauf pour dire qu'il c'est dans les possibilités à ne pas exclure pour le futur. J'ai bien précisé qu'"on en est pas là", mais je pense qu'il faut s'en préoccuper avant d'avoir le nez sur le fait accompli.

Mais vas plus loin, si on arrive à faire une IA qui parte en vrille et déclenche des catastrophes.
L'équipe de développement de celle-ci pourrait-elle oui ou non être traduite devant un tribunal pour homicide involontaire ? Ne pourrait-on pas leur reprocher de ne pas avoirs mis les verrous nécessaires pour que ladite cata soit impossible ?

Est-ce qu'on a fait ça pour les fabricants d'arme à feu ou les explosifs ? Mais c'est pas totalement à exclure qu'on modifie les lois pour un créer nouveau type de responsabilité.

C'est du pinaillage, mais si aujourd'hui les développeurs sont dans un trip où "on s'en tape, on fait une IA, ce qu'elle fera elle-même ne regardera qu'elle", est-ce que ça n'augmente pas considérablement les risques pour qu'une telle cata arrive plus rapidement ?

La lettre ouverte (lien donnée plus haut) signée pas des chercheurs de pointe en IA montre qu'ils ne s'en tappent pas du tout.

En fait, invité, je ne sais même pas si on est en désaccord.

En effet, je pense pas qu'on voit les choses très différemment. À partir du moment où on s'entend sur une autonomie (pour le moment sous contrôle) de la création par rapport à son concepteur. on est pas vraiment en désaccord.

I.

[kestaencordi]

Le système dispose d'une "autonomie" qui échappe à ses concepteurs.

Quand elle joue, la machine est 100% autonome et d'une façon générale, personne ne peut prévoir ses décisions.

Mais c'est pas totalement à exclure qu'on modifie les lois pour un créer nouveau type de responsabilité.

autonomie, prévisibilité, responsabilité légal des concepteurs, libre arbitre.

le plus difficile pour moi a concevoir serait la responsabilité légal d'une machine!
faudra démêler tout ça.

[jean7]

En effet, je pense pas qu'on voit les choses très différemment. À partir du moment où on s'entend sur une autonomie (pour le moment sous contrôle) de la création par rapport à son concepteur. on est pas vraiment en désaccord.
I.

Je n'irais pas nier l'évidence tout de même :-)
Donc nous sommes d'accord sur l'essentiel.

C'est sans doute ma façon d'arriver et déposer mon avis sans chercher à faire de lien avec les messages précédents qui a pu laisser penser le contraire.
Je m'en excuse.

Une arme à feu, un explosif, ne choisi pas sa cible ni son temps. C'est donc très différent.

Mais si quelqu'un met sur le marché un fauteuil de massage et que celui-là se met à broyer ceux qui s'assoient dessus, il sera poursuivi en justice.

[jean7]

autonomie, prévisibilité, responsabilité légal des concepteurs, libre arbitre.

le plus difficile pour moi a concevoir serait la responsabilité légal d'une machine!
faudra démêler tout ça.

Indépendement des moyens qui concourrent aux conséquences, le problème de responsabilité d'une IA versus ses créateur vaudrait d'être posé depuis belle lurette mais sous une autre forme.
Je pense par exemple aux famines générées par des systèmes boursiers. Il y a eu des morts en conséquence du "bon fonctionnement" d'un système ayant échapé à ses créateurs. Ce système est en quelque sorte une macro-IA à l'intérieur de laquelle on trouve des composants humains…
Curieusement, on ne s'est même pas posé la question. Un peu comme si ces morts étaient les conséquences d'une catastrophe naturelle…

Aujourd'hui, on ne peut pas, il me semble, traduire une procédure en justice. Dans certains cas, je suppose, en théorie, le responsable humain de l'application de la procédure fautive serait attaquable. Mais le concepteur aucunement.

Concevoir d'attaquer une machine en justice, il y a quelques siècles, ça se faisait. Alors pourquoi n'y reviendrait-on pas ?
La machine ne serait sans doute pas "punie", mais elle serait mis hors d'état de nuire... voir éventuellement acquittée. Non pas en fonction des fautes qu'elle aurait commis mais plutôt je pense sur la base d'un bilan entre les bénéfices qu'elle apporte et des problèmes qu'elle engendre. Je trouve que ce serait utile, plutôt que de continuer à ne pas traiter formellement ces problèmes.

Mais il ne faudrait pas que ceci se substitue à la responsabilité du concepteur. Ou éventuellement de son commanditaire. C'est pas simple simple...

C'est plus facile pour les succès ! :-))

[Invité]

Une arme à feu, un explosif, ne choisi pas sa cible ni son temps. C'est donc très différent.

Mais si quelqu'un met sur le marché un fauteuil de massage et que celui-là se met à broyer ceux qui s'assoient dessus, il sera poursuivi en justice.

Salut jean7.

La technologie est nouvelle donc toutes les comparaisons risquent d'être boiteuses.

Prenons le cas d'une arme semi-automatique de combat * , elle n'est pas mis en vente pour la chasse, ni pour le tir de pratique et elle n'a pas besoin de mal fonctionner pour engendrer des désastres (je connais l'adage: "Guns dont kill people, people kill people", mais quand même c'est la fonctionnalité de tuer qui est l'essence même de l'objet). Je vois une (ir)responsabilité du fabricant et du distributeur de mettre ça entre les mains du public at-large comme on le fait aux USA. Mais il n'y a pas de poursuites à cause du deuxième amendement. On peut se demander si ce deuxième amendement ne protégera pas aussi ces armes controlées par l'IA ? Mais là j'entre dans la juridico-fiction.

Je vois au moins deux cas: l'IA utilisée clairement dans le but de nuire (réaliser des actions illégales) et celle qui échappera accidentellement aux objectifs de ses concepteurs.

I.

(*) Je ne suis pas familier avec le vocabulaire des armes à feu

[Invité]

Concevoir d'attaquer une machine en justice, il y a quelques siècles, ça se faisait. Alors pourquoi n'y reviendrait-on pas ?

Ce serait amusant de voir la décision si le tribunal était dirigé par Watson.

https://en.wikipedia.org/wiki/Watson_%28computer%29

I.

[kestaencordi]

Aujourd'hui, on ne peut pas, il me semble, traduire une procédure en justice. Dans certains cas, je suppose, en théorie, le responsable humain de l'application de la procédure fautive serait attaquable. Mais le concepteur aucunement.

les poursuites civile sont évidente pour un vice de conception.

j'ai eu connaissance au qc d'un ingénieure condamné au criminel pour une négligence de conception d'une machine de chaine de production qui a eu de grave conséquence(la mort d'un homme je pense)

je pense pas qu'on peut envisager une responsabilité légal des machine. on leur reconnaitra peut-être des droits, un status comme pour les animaux mais pas de responsabilité.

[Invité]

On se rappelle que Kasparov avait accusé IBM d'avoir triché à la suite de son match de 1997 contre Deep Blue. Il a suggéré qu'il y avait eu intervention d'un grandmaître (il a insinué que c'était Karpov) lors la deuxième partie. Selon lui un ordinateur ne pouvait jouer de cette manière. L'équipe de programmeurs de Deep Blue ont nié cette affirmation.

Même si on est 20 ans plus tard et que le Go c'est pas les échecs, ce match gagné par AlphaGo me porte à croire que Kasparov avait tort et qu'IBM n'a pas triché.

I.

[Invité]

Lee Sedol a gagné tous ses matchs (contre des humains) depuis son match perdu contre AlphaGo.

Lee Sedol dit avoir beaucoup appris des stratégies d'AlphaGo. (*)

Si c'est vrai ce serait un exemple inspirant de l'humain qui s'améliore au contact de l'IA.

(*) Source: Un Tweet de Demis Hassabis développeur d'AlphaGo .

I.

[Invité]

Et ça continue.

AI Beats a Fighter Pilot in a Virtual Dogfight

​The artificial intelligence, called ALPHA, can analyze sensor data, create a tactical plan, and respond to its opponents moves in less than a millisecond.

http://www.popularmechanics.com/militar ... -dogfight/

http://www.dailymail.co.uk/sciencetech/ ... tedly.html

I.

[Jean-Francois]

Et ça continue

Là, ce n'est pas un domaine où je vois le développement des IA d'un bon oeil. C'est un plan pour que ça se terminator mal s'ils ne font pas attention à ce qu'ils lui permettent de faire.

Jean-François

[Invité]

Là, ce n'est pas un domaine où je vois le développement des IA d'un bon oeil. C'est un plan pour que ça se terminator mal s'ils ne font pas attention à ce qu'ils lui permettent de faire.

Jean-François

Je ne suis pas moi non plus admirateur des applications militaires.

J'ai mis ça juste pour illustrer la progression de la technologie. L'IA bat les meilleurs humains dans de plus en plus de domaines.

I.

[Invité]

Les parties du match commentées par 2 champions du monde:

https://deepmind.com/research/alphago/a ... s-english/

I.

[Invité]

Explications sur les méthodes employées et les différences entre AlphaGo et Deep Blue (échecs).

https://www.youtube.com/watch?v=P6eBraOUBLw

I.

[spin-up]

La prochaine etape c'est le poker no limit, apparemment. Un probleme tres different des echecs et du go, ca promet d'etre intéressant.
http://www.numerama.com/sciences/222328 ... poker.html

[Denis]

Salut Invité,

Merci pour ce lien délicieux.

AlphaGo commence à vraiment faire des flammèches. En jouant incognito sur internet (sous le pseudo Master), il a un score de 60-0, dont plusieurs parties contre des joueurs de toute première force (par exemple, 3-0 contre Ke Jie).

Voici une de ces 3 parties.

Il ira loin, le petit robot.

Denis

[Invité]

Salut Invité,

Merci pour ce lien délicieux.

AlphaGo commence à vraiment faire des flammèches. En jouant incognito sur internet (sour le pseudo Master), il a un score de 60-0, dont plusieurs parties contre des joueurs de toute première force (par exemple, 3-0 contre Ke Jie).

Voici une de ces 3 parties.

Il ira loin, le petit robot.

Denis

Salut Denis.

Il y a des avancées spectaculaires pas seulement pour le Go.

Par exemple, en traduction (Google Translate) il s'est fait depuis moins d'un an des avancées phénoménales, On est pas loin de la compétence humaine.

https://arxiv.org/abs/1609.08144

On commence à penser que le "Deep Learning" va bouleverser bien des domaines ou l'humain régnait jusqu'à ce jour.

I.

[Invité]

Ça va prendre des méga doses pour penser battre les ordinateurs.

Chess players need checking for drugs, scientists say

http://www.telegraph.co.uk/news/2017/01 ... rformance/

I.

[Invité]

Ce soir à Tout le Monde en Parle (Québec) on reçoit Yoshua Bengio, un spécialiste mondial en IA et deep-learning, ça m'étonnerait qu'il ne mentionne pas AlphaGo.

https://fr.wikipedia.org/wiki/Yoshua_Bengio

I.

[Invité]

Le système d'intelligence artificiel Libratus vient de battre 4 joueurs professionnels de poker,

Researchers can now say that the victory margin was large enough to count as a statistically significant win, meaning that they could be at least 99.98 percent sure that the AI victory was not due to chance.

http://spectrum.ieee.org/automaton/robo ... er-players

https://www.youtube.com/watch?v=JtyA2aUj4WI

I.