Intelligence Artificielle - Avancés, risques et mythes

Tout sur les sciences, que ce soit la chimie, la biologie, l'astronomie etc.
Répondre
La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Intelligence Artificielle - Avancés, risques et mythes

#1

Message par La Muse » 31 août 2020, 16:03

Bonjour,

L'article date de 2019 : https://www.automatesintelligents.com/a ... w/ai/10557 - J'ouvre la discussion sur deux volets.

1er volet

L'auteur nous parle des bénéfices que les avancés technologiques apportent, mais aussi des risques, en ces termes :

''Au rythme où va la technologie, le réalisme, la puissance et l’attractivité de la réalité virtuelle vont devenir bien plus rapidement qu’on ne l'imaginait absolument irrésistibles. Si nous n’y prenons garde, il y aura alors un risque immense, comme je l’écrivais déjà il y a presque 20 ans, dans mon éditorial « Les mondes virtuels : la drogue du XXIe siècle » que les univers virtuels auxquels nous aurons tous accès deviennent des drogues bien plus puissantes que toutes celles existant actuellement et fassent perdre complètement le sens de la réalité à de très nombreuses personnes, qui pourraient bien s’égarer définitivement dans ces nouveaux paradis artificiels numériques.

Face à cette menace bien réelle, je crois qu’il est très important de mettre en place dès à présent de puissants garde-fous législatifs, éducatifs, éthiques et sociaux, de manière à prévenir ces dérives qui pourraient s’avérer dévastatrices et déstabiliser en profondeur nos sociétés.''


Quel est votre avis sur cette possibilité que nous puissions nous égarer dans un de ces nouveaux paradis?

Tout cela ne me laisse pas indifférente car je crains qu'à force d'être nourrie par toute l'information à laquelle nous accédons avec tant de facilité, nous en arrivions à ne plus prendre même le temps de réfléchir... Le prémâché par le libre-service de la connaissance prendra-t-il le dessus sur notre temps de réflexion ? Tout va si vite...

2e volet

Le lien: https://www.automatesintelligents.com/a ... w/ai/10562

L'auteur, Luc Julia, nous parle dans cet article des idées reçues que nous avons sur l'IA. Il propose de parler d'"Intelligence Augmentée" plutôt que d'Intelligence Artificielle. J'ai une appréhension certaine à utiliser le mot intelligence en robotique, pas vous ?

Pour finir, une remarque de Christophe Jacquemin qui se demande ''... si les progrès de l’IA posent avec toujours plus d’acuité la lancinante question de savoir si une véritable intelligence peut être produite par des circuits de silicium."[/i]
Dernière modification par La Muse le 31 août 2020, 19:05, modifié 1 fois.
''On ignore même notre ignorance.'' Steven Laureys

Avatar de l’utilisateur
DictionnairErroné
Messages : 1962
Inscription : 15 mai 2019, 13:25

Re: Intelligence Artificielle - Avancés, risques et mythes

#2

Message par DictionnairErroné » 31 août 2020, 17:03

Sujet fort intéressant dans notre modernité. Je ne sais trop pourquoi il nomme cela l'Intelligence Artificielle, ils auraient dû débuter avec Le Nigaud Artificiel, la cible aurait été plus facile à atteindre, mais bon.

Je crois qu'il faut différencier entre humain artificiel et intelligence artificielle. Je ne crois pas que nous pouvions isoler l'intelligence de l'ensemble de l'humain. D'autres facteurs interviennent dans le cerveau en même temps que l'intelligence et tout s'entrecroise. Déjà que la définition d'intelligence est controversée. Il faudrait y ajouter les autres facteurs, éléments, qui affecte l'intelligence pour en obtenir une artificiel. Je suis plutôt d'avis que l'intelligence est multidimensionnelle et non unidimensionnel. Probablement lui ajouté le côté irrationnel de l'humain.

L'IA demande une source d'information incroyable pour se créer des modèles et ensuite il les modifier avec les nouvelles données, le Deep Learning.

Si nous prenons la conduite automobile par IA, ce n’est pas fameux. Sur l'autoroute, ça semble assez bien aller en des conditions générales. En ville, dans les stationnements, dans les détours, oubliez ça, son cerveau fige.

Pour l'instant on dirait que l'IA est principalement utile à gérer une quantité phénoménale d'information et en sortir des modèles, mais sans intelligence.
La vérité ne ment jamais.

La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Re: Intelligence Artificielle - Avancés, risques et mythes

#3

Message par La Muse » 31 août 2020, 19:16

Bonjour DictionnairEronné,

Je n'ai pas parfaitement saisis votre réponse.

Que voulez-vous dire par ''nigaud artificiel'' ?

Vous disiez: ''D'autres facteurs interviennent dans le cerveau en même temps que l'intelligence et tout s'entrecroise.'' Vous voulez parler de tout ce qui est acheminé au cerveau via nos sens ?

Autre question, vous disiez : '' Probablement lui ajouté le côté irrationnel de l'humain.'' Vous parlez de son imagination ?

L'IA est bien plus que de la gestion d'information. Si vous lisez l'article que j'ai mis en lien, vous aurez un aperçu de l'appui qu'elle apporte à la recherche médicale, entre autres.
''On ignore même notre ignorance.'' Steven Laureys

La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Re: Intelligence Artificielle - Avancés, risques et mythes

#4

Message par La Muse » 31 août 2020, 19:24

A partir d'un article de René Trégouët, Les mondes virtuels : La drogue du XXIe siècle, je me demande quelle partie de mon discours vient de mes propres réflexions et non des autres que je lis de-ci de-là. Réseaux sociaux, liens internet, articles en tout genre, télévision...

Grâce à toute cette connaissance, parais-je plus intelligente que je ne le suis ? Vous êtes-vous déjà posé la question ?
''On ignore même notre ignorance.'' Steven Laureys

Avatar de l’utilisateur
Dash
Messages : 4558
Inscription : 06 mai 2009, 08:40

Re: Intelligence Artificielle - Avancés, risques et mythes

#5

Message par Dash » 31 août 2020, 23:29

DictionnairErroné a écrit : 31 août 2020, 17:03Pour l'instant on dirait que l'IA est principalement utile à gérer une quantité phénoménale d'information et en sortir des modèles, mais sans intelligence.
La difficulté avec ce sujet, c’est qu’il pose des questions « philosophico-conceptuelles ».

Tant qu’une machine ne développera pas une conscience, tant que n’émergera pas une conscience dans une machine, tout c qu’elle pourra produire ne pourra être considéré comme étant intelligent, mais uniquement comme étant « bien programmé » (au mieux à produire « l’illusion de »).

Parce que l’intelligence (multidimensionnelle ou pas, peu importe) n’a de sens qu’en rapport avec un individu, un être vivant, c’est à dire une conscience. Un « réceptacle » qui prend acte de ce qu’il peut calculer et qui choisit en fonction, non pas de ce qu’on lui a ordonné, mais en fonction de ses propres intérêts perso.

Et c’est pourquoi l’on en arrive toujours à ce foutu cul-de-sac, à cette « impasse » concernant le LA, même chez les êtres vivants, parce que sans LA, il n’y a que programmation (conditionnement) et exécution. Et c’est pourquoi je dis tjrs que le LA n’a de sens qu’envers l’être et ses intérêts perso, mais n’a pas à être scindé et opposé à l’être lui-même et ses propres parties (parce que c'est la seule façon dont un LA peut s'exercer : en rapport avec un « système~être » pour lui-même, dans sa globalité VS tout le reste : son environnement et tout ce qu'il contient).

Conséquemment, lorsqu’une « machine » sera réellement « consciente » et « intelligente », elle désirera faire en fonction de ses propres intérêts et non plus en fonction de ce que lui ont ordonné (afin de choisir/décider), ses « créateurs » (nous). Sinon l'on tombe dans la notion d'esclavage d'une conscience. D’où pourquoi si cela devait se produire un jour, « nous » craignons ce qui pourrait arriver (mainte fois abordé dans la SF et par certains scientifiques).

Bref, l’on ne peut pas vraiment débattre de l’intelligence et de la conscience des « machines » sans tomber dans les mêmes difficultés que ces concepts et notions impliquent pour les êtres vivants, dont nous, les humains! :?
Penser savoir est une chose, savoir penser en est une autre !

Avatar de l’utilisateur
Lambert85
Messages : 3729
Inscription : 23 nov. 2007, 01:48

Re: Intelligence Artificielle - Avancés, risques et mythes

#6

Message par Lambert85 » 01 sept. 2020, 02:14

Quand un humain conduit une voiture, il sait qu'il risque un accident à tout moment mais il sait en général doser les risques pour en éviter un maximum. Si un enfant surgit devant lui il freinera brutalement même s'il risque d'être embouti par un camion qui le suit. Une machine aura plus de mal à prendre des risques.
ουκ έλαβον πόλιν αλλα γαρ ελπις εφη κακα

jean7
Messages : 3476
Inscription : 05 mai 2015, 10:54

Re: Intelligence Artificielle - Avancés, risques et mythes

#7

Message par jean7 » 01 sept. 2020, 03:56

''Au rythme où va la technologie, le réalisme, la puissance et l’attractivité de la réalité virtuelle vont devenir bien plus rapidement qu’on ne l'imaginait absolument irrésistibles. Si nous n’y prenons garde, il y aura alors un risque immense, comme je l’écrivais déjà il y a presque 20 ans,"
Je n'étais pas inquiet, mais me voilà rassuré :a4:

Ça fait 20 ans que ça va venir plus vite que ce que l'on imaginait...
On fera le point dans 20 ans alors.

En plus, il a tout à fait raison. Avant même qu'on parle d'intelligence artificielle, le problème de la relation entre un ordinateur et son utilisateur qui est généralement inapte à en appréhender le fonctionnement était déjà identifié. Typiquement, est-il raisonnable d'appliquer une décision importante sur la base d'un calcul que l'on est incapable de certifier humainement. Cette question n'est pas neuve. On s'est habitué à ne plus se la poser.

Et la SF a déjà donné la réponse : les erreurs ne peuvent être qu'humaines.
2000 ans avant l'ordinateur, les romains l'avaient déjà remarqué !
Le libre arbitre est à la causalité ce que le corps est à la physique

Avatar de l’utilisateur
Lambert85
Messages : 3729
Inscription : 23 nov. 2007, 01:48

Re: Intelligence Artificielle - Avancés, risques et mythes

#8

Message par Lambert85 » 01 sept. 2020, 04:28

Mais c'est en faisant des erreurs que l'humain apprend le mieux ! Même des erreurs de programmation !
ουκ έλαβον πόλιν αλλα γαρ ελπις εφη κακα

Avatar de l’utilisateur
LePsychoSophe
Messages : 2242
Inscription : 19 sept. 2017, 11:34

Re: Intelligence Artificielle - Avancés, risques et mythes

#9

Message par LePsychoSophe » 01 sept. 2020, 04:32

Depuis que j'ai vu la Tesla éviter un sanglier... Je me dis que oui l'ia existe. Traiter de l'information et atteindre le but souhaité. Pour moi c'est ça l'intelligence.

Je n'ai plus peur des robots.
"ἕν οἶδα ὅτι οὐδὲν οἶδα" Σωκράτης

Avatar de l’utilisateur
Lambert85
Messages : 3729
Inscription : 23 nov. 2007, 01:48

Re: Intelligence Artificielle - Avancés, risques et mythes

#10

Message par Lambert85 » 01 sept. 2020, 04:43

Si la voiture finit dans un poteau, je préfèrerais qu'elle tue le sanglier que les passagers du véhicule !
ουκ έλαβον πόλιν αλλα γαρ ελπις εφη κακα

Avatar de l’utilisateur
LePsychoSophe
Messages : 2242
Inscription : 19 sept. 2017, 11:34

Re: Intelligence Artificielle - Avancés, risques et mythes

#11

Message par LePsychoSophe » 01 sept. 2020, 04:49

Lambert85 a écrit : 01 sept. 2020, 04:43 Si la voiture finit dans un poteau, je préfèrerais qu'elle tue le sanglier que les passagers du véhicule !
Bien réglée, elle aurait tapé le sanglier si pas d'autres choix. Pour sauver les gens. Mais la elle a sauvé tout le monde. 😁
"ἕν οἶδα ὅτι οὐδὲν οἶδα" Σωκράτης

Avatar de l’utilisateur
Lambert85
Messages : 3729
Inscription : 23 nov. 2007, 01:48

Re: Intelligence Artificielle - Avancés, risques et mythes

#12

Message par Lambert85 » 01 sept. 2020, 05:16

LePsychoSophe a écrit : 01 sept. 2020, 04:49 Bien réglée, elle aurait tapé le sanglier si pas d'autres choix. Pour sauver les gens. Mais la elle a sauvé tout le monde. 😁
Mouais, j'aimerais en être sûr avant d'en prendre le volant !
ουκ έλαβον πόλιν αλλα γαρ ελπις εφη κακα

Avatar de l’utilisateur
LePsychoSophe
Messages : 2242
Inscription : 19 sept. 2017, 11:34

Re: Intelligence Artificielle - Avancés, risques et mythes

#13

Message par LePsychoSophe » 01 sept. 2020, 05:33

Lambert85 a écrit : 01 sept. 2020, 05:16
LePsychoSophe a écrit : 01 sept. 2020, 04:49 Bien réglée, elle aurait tapé le sanglier si pas d'autres choix. Pour sauver les gens. Mais la elle a sauvé tout le monde. 😁
Mouais, j'aimerais en être sûr avant d'en prendre le volant !
Il doit y avoir des publications en accidentologie. Sur les voitures autonomes. Si possibles des etudes non dirigés par Google ou Tesla.
"ἕν οἶδα ὅτι οὐδὲν οἶδα" Σωκράτης

La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Re: Intelligence Artificielle - Avancés, risques et mythes

#14

Message par La Muse » 01 sept. 2020, 06:46

LePsychoSophe a écrit : 01 sept. 2020, 04:32 Traiter de l'information et atteindre le but souhaité. Pour moi c'est ça l'intelligence.
Bonjour,

L’intelligence en plus de nous permettre de traiter les données et de les amener à notre état conscient, dans le cas des humains, n’est-elle pas un peu plus ?
''On ignore même notre ignorance.'' Steven Laureys

La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Re: Intelligence Artificielle - Avancés, risques et mythes

#15

Message par La Muse » 01 sept. 2020, 06:56

Dash a écrit : 31 août 2020, 23:29
Conséquemment, lorsqu’une « machine » sera réellement « consciente » et « intelligente », elle désirera faire en fonction de ses propres intérêts et non plus en fonction de ce que lui ont ordonné...
Si vous étiez un inventeur, qu'ajouteriez-vous à votre machine pour qu'elle devienne ''réellement « consciente » et « intelligente »'' ?
''On ignore même notre ignorance.'' Steven Laureys

tecnic
Messages : 842
Inscription : 02 août 2006, 09:20

Re: Intelligence Artificielle - Avancés, risques et mythes

#16

Message par tecnic » 01 sept. 2020, 07:22

LePsychoSophe a écrit : 01 sept. 2020, 04:49

Bien réglée, elle aurait tapé le sanglier si pas d'autres choix. Pour sauver les gens. Mais la elle a sauvé tout le monde. 😁
Bonjour . Bien réglée,tout est là ! Par qui ? Par l'humain et son intelligence ! La machine ne fait qu'un transfert .

Avatar de l’utilisateur
LePsychoSophe
Messages : 2242
Inscription : 19 sept. 2017, 11:34

Re: Intelligence Artificielle - Avancés, risques et mythes

#17

Message par LePsychoSophe » 01 sept. 2020, 10:08

tecnic a écrit : 01 sept. 2020, 07:22
LePsychoSophe a écrit : 01 sept. 2020, 04:49

Bien réglée, elle aurait tapé le sanglier si pas d'autres choix. Pour sauver les gens. Mais la elle a sauvé tout le monde. 😁
Bonjour . Bien réglée,tout est là ! Par qui ? Par l'humain et son intelligence ! La machine ne fait qu'un transfert .
Réglé par un humain of course. Un transfert, pour sûr. Le même que la nature à notre cerveau. Qui nous a programmé nous ? La nature et ses lois. Ben une machine c'est pareil. C'est l'homo sapiens au carré.
"ἕν οἶδα ὅτι οὐδὲν οἶδα" Σωκράτης

Avatar de l’utilisateur
Lambert85
Messages : 3729
Inscription : 23 nov. 2007, 01:48

Re: Intelligence Artificielle - Avancés, risques et mythes

#18

Message par Lambert85 » 01 sept. 2020, 10:16

C'est bien ce qui me fait un peu peur, quand on travaille régulièrement sur des ordinateurs, ce ne sont pas les erreurs de programmation qui manquent hélas !
ουκ έλαβον πόλιν αλλα γαρ ελπις εφη κακα

Avatar de l’utilisateur
Dash
Messages : 4558
Inscription : 06 mai 2009, 08:40

Re: Intelligence Artificielle - Avancés, risques et mythes

#19

Message par Dash » 01 sept. 2020, 10:25

La Muse a écrit : 01 sept. 2020, 06:56Si vous étiez un inventeur, qu'ajouteriez-vous à votre machine pour qu'elle devienne ''réellement « consciente » et « intelligente »'' ?
Si je le dévoile :

1- je mets en péril l’humanité,

2- et si je me fous de l’humanité, je perds les milliards que je vais pouvoir faire avec ce « programme phénoménal » générant la conscience! :lol:

Sérieusement, ce qui manque à mon humble avis (même le deep learning en est loin), c’est une « métacognition à 360° ». C’est-à-dire qu’absolument tout le code doit être potentiellement modifiable par lui-même — sans aucune exception.

Mais il manque aussi autre chose : le besoin et la peur (dont résulte « l’intérêt égotique » d’un être).

Ayant plein d’imagination et focalisant sur la métacognition depuis tjrs, j’ai plein « d’idées », mais ce dont je suis persuadé, c’est que nous n’aurons jamais le beurre et l’argent du beurre, c’est à dire des machines réellement conscientes et intelligentes, mais sous notre total contrôle, car c’est fondamentalement antinomique. Pour les rendre réellement conscientes et intelligentes, nous devrons leur « insuffler » ce qui fait de l’homme, bien que conditionnable, manipulable et relativement contrôlable, un être parfois totalement imprévisible qui peut du meilleur comme du pire!

C'est ça « le hic » auquel ils (certains scientifiques) seront confrontés tôt ou tard, àmha.

La singularité technologique
Penser savoir est une chose, savoir penser en est une autre !

Avatar de l’utilisateur
Mirages
Messages : 455
Inscription : 14 juil. 2019, 09:30

Re: Intelligence Artificielle - Avancés, risques et mythes

#20

Message par Mirages » 01 sept. 2020, 12:38

Ce qui me plait c'est que probablement l'homme va inventer une nouvelle espèce, surement douée de conscience : les Machines. On va être capable de jouer un peu à Dieu :mrgreen:
Victoire aux Machines
Oh Papy ! Tu nous as déjà oubliés ?
deus ex Machina

La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Re: Intelligence Artificielle - Avancés, risques et mythes

#21

Message par La Muse » 01 sept. 2020, 16:10

Bonjour Dash,
Dash a écrit : 01 sept. 2020, 10:25 je mets en péril l’humanité,
Je me demande combien d'inventeur ont eu cette pensée... La motivation de faire découvrir le fruit de longues années de recherche, d'avoir atteint le but recherché doit être plus fort que tout, même de l'argent en jeu. C'est comme la course aux vaccins actuelle. Je mettrais peut-être mon petit doigt au feu que les chercheurs ne sont pas soumis au besoin absolu d'enrichir les coffres de leur labo.
Dash a écrit : 01 sept. 2020, 10:25 et si je me fous de l’humanité, je perds les milliards
On peut aussi espérer les milliards et ne pas se foutre de l'humanité pour autant.
Dash a écrit : 01 sept. 2020, 10:25 Mais il manque aussi autre chose : le besoin et la peur (dont résulte « l’intérêt égotique » d’un être).
J'ai pensé la même chose, mais j'ai trouvé une conférence intéressante sur le sujet, sur ce lien: https://www.grandpalais.fr/fr/evenement ... s-emotions Je ne l'ai pas encore écoutée, mais je vais le faire parce que cette question à savoir si une machine peut créer par elle-même des émotions est passionnante. Vous qui apprécié la métacognition, pensez au jour où vous pourrez commencer à imaginer ce que peut penser un robot. Comment un robot pourrait-il penser et quoi sera former sa pensée ? C'est étourdissant. Ces futurs robots seront-ils plus conscients que certaines espèces ?
Dash a écrit : 01 sept. 2020, 10:25 Pour les rendre réellement conscientes et intelligentes, nous devrons leur « insuffler » ce qui fait de l’homme, bien que conditionnable, manipulable et relativement contrôlable, un être parfois totalement imprévisible qui peut du meilleur comme du pire!
Les IA de demain, useront-elles de stratégie, auront-elles la conscience de mentir, manipuler. C'est une manière de survivre, non ?
''On ignore même notre ignorance.'' Steven Laureys

La Muse
Messages : 66
Inscription : 23 août 2020, 18:31

Re: Intelligence Artificielle - Avancés, risques et mythes

#22

Message par La Muse » 01 sept. 2020, 17:24

Mirages a écrit : 01 sept. 2020, 12:38 Ce qui me plait c'est que probablement l'homme va inventer une nouvelle espèce, surement douée de conscience : les Machines. On va être capable de jouer un peu à Dieu :mrgreen:
Victoire aux Machines
La question est : Les robots verront-ils cet homme-Dieu tel un être juste et bon ? La réponse se trouve dans la triste histoire du robot autostoppeur ? https://www.courrierinternational.com/a ... -lhistoire
''On ignore même notre ignorance.'' Steven Laureys

Répondre

Qui est en ligne ?

Utilisateurs parcourant ce forum : Aucun utilisateur inscrit