Un programme bat le champion d'Europe du jeu de go, 5-0
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.
Vois-tu une différence, vu comme ça ?
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.
Vois-tu une différence, vu comme ça ?
Le libre arbitre est à la causalité ce que le corps est à la physique
- kestaencordi
- Messages : 3858
- Inscription : 10 janv. 2012, 02:41
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
oui je vois.jean7 a écrit :Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.
Vois-tu une différence, vu comme ça ?
voyez-vous la similitude? et toute l'autonomie de la machine?
Victoriae mundis et mundis lacrima.
ça ne veut absolument rien dire, mais je trouve que c’est assez dans le ton.
ça ne veut absolument rien dire, mais je trouve que c’est assez dans le ton.
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
jean7 a écrit :Vois-tu une différence, vu comme ça ?
Ce que je vois c'est du pinaillage. D'ailleurs mon message de 11h54 illustrait ironiquement (ce qui semble vous avoir échappé) qu'en pinaillant on ne fait pas avancer grand chose.jean7 a écrit :Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Le système dispose d'une "autonomie" qui échappe à ses concepteurs. Et même si on en est pas encore là, c'est cette autonomie qui fait craindre ce genre de système d'IA à plusieurs scientifiques, dont Stephen Hawking. Des robots qui pourraient cesser de suivre fidèlement les objectifs choisit par leurs concepteurs, ça commence à en inquiéter plusieurs.
https://en.wikipedia.org/wiki/Open_Lett ... telligence
Et je me répète qu'on on est encore loin pour que ça cause de réels problèmes, mais c'est quand même dans la nature de la bête.
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Oui, bien sûr.kestaencordi a écrit :oui je vois.jean7 a écrit :Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Ton père était absolument incapable de choisir lors de ta procréation quoi que ce soit en ce qui concerne ton devenir.
On peux au mieux faire quelques modifications sur les cellules de l'embryon en développement ou supprimer celui-ci s'il ne plait pas.
Vois-tu une différence, vu comme ça ?
voyez-vous la similitude? et toute l'autonomie de la machine?
Quand elle joue, la machine est 100% autonome et d'une façon générale, personne ne peut prévoir ses décisions.
A force de travail, bien entendu, les IA sont de plus en plus I.

Le libre arbitre est à la causalité ce que le corps est à la physique
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
De 1h54 plutôt, je présume ?Invité a écrit :jean7 a écrit :Vois-tu une différence, vu comme ça ?Ce que je vois c'est du pinaillage. D'ailleurs mon message de 11h54 illustrait ironiquement (ce qui semble vous avoir échappé) qu'en pinaillant on ne fait pas avancer grand chose.jean7 a écrit :Le concepteur a un projet et des moyen de les réaliser.
Pas exemple pour l'IA, il choisi où il met de l'aléa et où il n'en met pas.
Le système dispose d'une "autonomie" qui échappe à ses concepteurs. Et même si on en est pas encore là, c'est cette autonomie qui fait craindre ce genre de système d'IA à plusieurs scientifiques, dont Stephen Hawking. Des robots qui pourraient cesser de suivre fidèlement les objectifs choisit par leurs concepteurs, ça commence à en inquiéter plusieurs.
https://en.wikipedia.org/wiki/Open_Lett ... telligence
Et je me répète qu'on on est encore loin pour que ça cause de réels problèmes, mais c'est quand même dans la nature de la bête.
I.
J'adore pinailler...
En fait, invité, je ne sais même pas si on est en désaccord.
Veux-tu vraiment dire que l'équipe de développement de cette AI joueuse de go n'ont aucune raison de se sentir responsables de la victoire ?
Il ne me semble pas.
Alors a part relever le fait que je sois un pinailleur, pourquoi ne pas le reconnaitre ?
Paradoxalement, tu laisse planer le spectre d'un scénario à la terminator.
Mais vas plus loin, si on arrive à faire une IA qui parte en vrille et déclenche des catastrophes.
L'équipe de développement de celle-ci pourrait-elle oui ou non être traduite devant un tribunal pour homicide involontaire ? Ne pourrait-on pas leur reprocher de ne pas avoirs mis les verrous nécessaires pour que ladite cata soit impossible ?
C'est du pinaillage, mais si aujourd'hui les développeurs sont dans un trip où "on s'en tape, on fait une IA, ce qu'elle fera elle-même ne regardera qu'elle", est-ce que ça n'augmente pas considérablement les risques pour qu'une telle cata arrive plus rapidement ?
OK, je pinaille. Mais mon pinaillage est-il faux ?

Le libre arbitre est à la causalité ce que le corps est à la physique
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Le reconnaitre ? C'est fait depuis mon premier message et plus loin j'ai donné un lien vers la conférence de presse de David Silver le directeur du projet AlphaGo. Je ne pense pas avoir minimisé leur travail.jean7 a écrit :Veux-tu vraiment dire que l'équipe de développement de cette AI joueuse de go n'ont aucune raison de se sentir responsables de la victoire ?
Il ne me semble pas.
Alors a part relever le fait que je sois un pinailleur, pourquoi ne pas le reconnaitre ?
Invité a écrit :L'intelligence artificielle (deep neural network) a fait des progrès foudroyants ces dernières années.
[...]
il y a une interview très intéressante avec David Silver chercheur et directeur du projet AlphaGo...
J'ai donné une référence vers ceux qui n'excluent pas la possibilité de dérapage sévère si on ne s'en préoccupe pas. Yann LeCun, Geoffrey Hinton, Peter Norvig ce sont des poids lourds dans le monde de l'IA, aussi Hawking, Frank Wilczek, Max Tegmark... http://futureoflife.org/ai-open-letter/jean7 a écrit :Paradoxalement, tu laisse planer le spectre d'un scénario à la terminator.
Pour ma part je ne crois pas le laisser planer de scénario, sauf pour dire qu'il c'est dans les possibilités à ne pas exclure pour le futur. J'ai bien précisé qu'"on en est pas là", mais je pense qu'il faut s'en préoccuper avant d'avoir le nez sur le fait accompli.
Est-ce qu'on a fait ça pour les fabricants d'arme à feu ou les explosifs ? Mais c'est pas totalement à exclure qu'on modifie les lois pour un créer nouveau type de responsabilité.jean7 a écrit :Mais vas plus loin, si on arrive à faire une IA qui parte en vrille et déclenche des catastrophes.
L'équipe de développement de celle-ci pourrait-elle oui ou non être traduite devant un tribunal pour homicide involontaire ? Ne pourrait-on pas leur reprocher de ne pas avoirs mis les verrous nécessaires pour que ladite cata soit impossible ?
La lettre ouverte (lien donnée plus haut) signée pas des chercheurs de pointe en IA montre qu'ils ne s'en tappent pas du tout.C'est du pinaillage, mais si aujourd'hui les développeurs sont dans un trip où "on s'en tape, on fait une IA, ce qu'elle fera elle-même ne regardera qu'elle", est-ce que ça n'augmente pas considérablement les risques pour qu'une telle cata arrive plus rapidement ?
En effet, je pense pas qu'on voit les choses très différemment. À partir du moment où on s'entend sur une autonomie (pour le moment sous contrôle) de la création par rapport à son concepteur. on est pas vraiment en désaccord.jean7 a écrit :En fait, invité, je ne sais même pas si on est en désaccord.
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
- kestaencordi
- Messages : 3858
- Inscription : 10 janv. 2012, 02:41
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Invité a écrit : Le système dispose d'une "autonomie" qui échappe à ses concepteurs.
jean7 a écrit : Quand elle joue, la machine est 100% autonome et d'une façon générale, personne ne peut prévoir ses décisions.
autonomie, prévisibilité, responsabilité légal des concepteurs, libre arbitre.Invité a écrit : Mais c'est pas totalement à exclure qu'on modifie les lois pour un créer nouveau type de responsabilité.
le plus difficile pour moi a concevoir serait la responsabilité légal d'une machine!
faudra démêler tout ça.
Victoriae mundis et mundis lacrima.
ça ne veut absolument rien dire, mais je trouve que c’est assez dans le ton.
ça ne veut absolument rien dire, mais je trouve que c’est assez dans le ton.
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Je n'irais pas nier l'évidence tout de même :-)Invité a écrit : En effet, je pense pas qu'on voit les choses très différemment. À partir du moment où on s'entend sur une autonomie (pour le moment sous contrôle) de la création par rapport à son concepteur. on est pas vraiment en désaccord.
I.
Donc nous sommes d'accord sur l'essentiel.
C'est sans doute ma façon d'arriver et déposer mon avis sans chercher à faire de lien avec les messages précédents qui a pu laisser penser le contraire.
Je m'en excuse.
Une arme à feu, un explosif, ne choisi pas sa cible ni son temps. C'est donc très différent.
Mais si quelqu'un met sur le marché un fauteuil de massage et que celui-là se met à broyer ceux qui s'assoient dessus, il sera poursuivi en justice.
Le libre arbitre est à la causalité ce que le corps est à la physique
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Indépendement des moyens qui concourrent aux conséquences, le problème de responsabilité d'une IA versus ses créateur vaudrait d'être posé depuis belle lurette mais sous une autre forme.kestaencordi a écrit :autonomie, prévisibilité, responsabilité légal des concepteurs, libre arbitre.
le plus difficile pour moi a concevoir serait la responsabilité légal d'une machine!
faudra démêler tout ça.
Je pense par exemple aux famines générées par des systèmes boursiers. Il y a eu des morts en conséquence du "bon fonctionnement" d'un système ayant échapé à ses créateurs. Ce système est en quelque sorte une macro-IA à l'intérieur de laquelle on trouve des composants humains…
Curieusement, on ne s'est même pas posé la question. Un peu comme si ces morts étaient les conséquences d'une catastrophe naturelle…
Aujourd'hui, on ne peut pas, il me semble, traduire une procédure en justice. Dans certains cas, je suppose, en théorie, le responsable humain de l'application de la procédure fautive serait attaquable. Mais le concepteur aucunement.
Concevoir d'attaquer une machine en justice, il y a quelques siècles, ça se faisait. Alors pourquoi n'y reviendrait-on pas ?
La machine ne serait sans doute pas "punie", mais elle serait mis hors d'état de nuire... voir éventuellement acquittée. Non pas en fonction des fautes qu'elle aurait commis mais plutôt je pense sur la base d'un bilan entre les bénéfices qu'elle apporte et des problèmes qu'elle engendre. Je trouve que ce serait utile, plutôt que de continuer à ne pas traiter formellement ces problèmes.
Mais il ne faudrait pas que ceci se substitue à la responsabilité du concepteur. Ou éventuellement de son commanditaire. C'est pas simple simple...
C'est plus facile pour les succès ! :-))
Le libre arbitre est à la causalité ce que le corps est à la physique
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Salut jean7.jean7 a écrit :Une arme à feu, un explosif, ne choisi pas sa cible ni son temps. C'est donc très différent.
Mais si quelqu'un met sur le marché un fauteuil de massage et que celui-là se met à broyer ceux qui s'assoient dessus, il sera poursuivi en justice.
La technologie est nouvelle donc toutes les comparaisons risquent d'être boiteuses.
Prenons le cas d'une arme semi-automatique de combat * , elle n'est pas mis en vente pour la chasse, ni pour le tir de pratique et elle n'a pas besoin de mal fonctionner pour engendrer des désastres (je connais l'adage: "Guns dont kill people, people kill people", mais quand même c'est la fonctionnalité de tuer qui est l'essence même de l'objet). Je vois une (ir)responsabilité du fabricant et du distributeur de mettre ça entre les mains du public at-large comme on le fait aux USA. Mais il n'y a pas de poursuites à cause du deuxième amendement. On peut se demander si ce deuxième amendement ne protégera pas aussi ces armes controlées par l'IA ? Mais là j'entre dans la juridico-fiction.

Je vois au moins deux cas: l'IA utilisée clairement dans le but de nuire (réaliser des actions illégales) et celle qui échappera accidentellement aux objectifs de ses concepteurs.
I.
(*) Je ne suis pas familier avec le vocabulaire des armes à feu
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Ce serait amusant de voir la décision si le tribunal était dirigé par Watson.jean7 a écrit :Concevoir d'attaquer une machine en justice, il y a quelques siècles, ça se faisait. Alors pourquoi n'y reviendrait-on pas ?

https://en.wikipedia.org/wiki/Watson_%28computer%29
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
- kestaencordi
- Messages : 3858
- Inscription : 10 janv. 2012, 02:41
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
les poursuites civile sont évidente pour un vice de conception.jean7 a écrit :
Aujourd'hui, on ne peut pas, il me semble, traduire une procédure en justice. Dans certains cas, je suppose, en théorie, le responsable humain de l'application de la procédure fautive serait attaquable. Mais le concepteur aucunement.
j'ai eu connaissance au qc d'un ingénieure condamné au criminel pour une négligence de conception d'une machine de chaine de production qui a eu de grave conséquence(la mort d'un homme je pense)
je pense pas qu'on peut envisager une responsabilité légal des machine. on leur reconnaitra peut-être des droits, un status comme pour les animaux mais pas de responsabilité.
Victoriae mundis et mundis lacrima.
ça ne veut absolument rien dire, mais je trouve que c’est assez dans le ton.
ça ne veut absolument rien dire, mais je trouve que c’est assez dans le ton.
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
On se rappelle que Kasparov avait accusé IBM d'avoir triché à la suite de son match de 1997 contre Deep Blue. Il a suggéré qu'il y avait eu intervention d'un grandmaître (il a insinué que c'était Karpov) lors la deuxième partie. Selon lui un ordinateur ne pouvait jouer de cette manière. L'équipe de programmeurs de Deep Blue ont nié cette affirmation.
Même si on est 20 ans plus tard et que le Go c'est pas les échecs, ce match gagné par AlphaGo me porte à croire que Kasparov avait tort et qu'IBM n'a pas triché.
I.
Même si on est 20 ans plus tard et que le Go c'est pas les échecs, ce match gagné par AlphaGo me porte à croire que Kasparov avait tort et qu'IBM n'a pas triché.
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Lee Sedol a gagné tous ses matchs (contre des humains) depuis son match perdu contre AlphaGo.
Lee Sedol dit avoir beaucoup appris des stratégies d'AlphaGo. (*)
Si c'est vrai ce serait un exemple inspirant de l'humain qui s'améliore au contact de l'IA.
(*) Source: Un Tweet de Demis Hassabis développeur d'AlphaGo .
I.
Lee Sedol dit avoir beaucoup appris des stratégies d'AlphaGo. (*)
Si c'est vrai ce serait un exemple inspirant de l'humain qui s'améliore au contact de l'IA.
(*) Source: Un Tweet de Demis Hassabis développeur d'AlphaGo .
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Et ça se poursuit
Et ça continue.
I.AI Beats a Fighter Pilot in a Virtual Dogfight
The artificial intelligence, called ALPHA, can analyze sensor data, create a tactical plan, and respond to its opponents moves in less than a millisecond.
http://www.popularmechanics.com/militar ... -dogfight/
http://www.dailymail.co.uk/sciencetech/ ... tedly.html
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
-
- Modérateur
- Messages : 22411
- Inscription : 03 sept. 2003, 02:39
Re: Et ça se poursuit
Là, ce n'est pas un domaine où je vois le développement des IA d'un bon oeil. C'est un plan pour que ça se terminator mal s'ils ne font pas attention à ce qu'ils lui permettent de faire.Invité a écrit :Et ça continue
Jean-François
“The more implausible the hypothesis — telepathy, aliens, homeopathy — the greater the chance that an exciting finding is a false alarm, no matter what the P value is.” (Nuzzo R (2014) Nature 506:150)
Re: Et ça se poursuit
Je ne suis pas moi non plus admirateur des applications militaires.Jean-Francois a écrit :Là, ce n'est pas un domaine où je vois le développement des IA d'un bon oeil. C'est un plan pour que ça se terminator mal s'ils ne font pas attention à ce qu'ils lui permettent de faire.
Jean-François
J'ai mis ça juste pour illustrer la progression de la technologie. L'IA bat les meilleurs humains dans de plus en plus de domaines.
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Les parties du match commentées par 2 champions du monde:
https://deepmind.com/research/alphago/a ... s-english/
I.
https://deepmind.com/research/alphago/a ... s-english/
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Explications sur les méthodes employées et les différences entre AlphaGo et Deep Blue (échecs).
https://www.youtube.com/watch?v=P6eBraOUBLw
I.
https://www.youtube.com/watch?v=P6eBraOUBLw
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
La prochaine etape c'est le poker no limit, apparemment. Un probleme tres different des echecs et du go, ca promet d'etre intéressant.
http://www.numerama.com/sciences/222328 ... poker.html
http://www.numerama.com/sciences/222328 ... poker.html
Il ira loin, le petit robot
Salut Invité,
Merci pour ce lien délicieux.
AlphaGo commence à vraiment faire des flammèches. En jouant incognito sur internet (sous le pseudo Master), il a un score de 60-0, dont plusieurs parties contre des joueurs de toute première force (par exemple, 3-0 contre Ke Jie).
Voici une de ces 3 parties.
Il ira loin, le petit robot.

Les meilleures sorties de route sont celles qui font le moins de tonneaux.
Re: Il ira loin, le petit robot
Salut Denis.Denis a écrit :Salut Invité,
Merci pour ce lien délicieux.
AlphaGo commence à vraiment faire des flammèches. En jouant incognito sur internet (sour le pseudo Master), il a un score de 60-0, dont plusieurs parties contre des joueurs de toute première force (par exemple, 3-0 contre Ke Jie).
Voici une de ces 3 parties.
Il ira loin, le petit robot.
Denis
Il y a des avancées spectaculaires pas seulement pour le Go.
Par exemple, en traduction (Google Translate) il s'est fait depuis moins d'un an des avancées phénoménales, On est pas loin de la compétence humaine.
https://arxiv.org/abs/1609.08144
On commence à penser que le "Deep Learning" va bouleverser bien des domaines ou l'humain régnait jusqu'à ce jour.
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Ça va prendre des méga doses pour penser battre les ordinateurs.

I.Chess players need checking for drugs, scientists say
http://www.telegraph.co.uk/news/2017/01 ... rformance/
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Re: Un programme bat le champion d'Europe du jeu de go, 5-0
Ce soir à Tout le Monde en Parle (Québec) on reçoit Yoshua Bengio, un spécialiste mondial en IA et deep-learning, ça m'étonnerait qu'il ne mentionne pas AlphaGo.
https://fr.wikipedia.org/wiki/Yoshua_Bengio
I.
https://fr.wikipedia.org/wiki/Yoshua_Bengio
I.
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Le poker maintenant
Le système d'intelligence artificiel Libratus vient de battre 4 joueurs professionnels de poker,
I.Researchers can now say that the victory margin was large enough to count as a statistically significant win, meaning that they could be at least 99.98 percent sure that the AI victory was not due to chance.
http://spectrum.ieee.org/automaton/robo ... er-players
https://www.youtube.com/watch?v=JtyA2aUj4WI
"Whatever intelligence is, it can't be intelligent all the way down. It's just dumb stuff at the bottom." [Andy Clark]
Qui est en ligne ?
Utilisateurs parcourant ce forum : Aucun utilisateur inscrit