Partagez
Voir le sujet précédentAller en basVoir le sujet suivant
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 14:07
Je rappelle aussi que l'entreprise Google investit toutes ses économies depuis des années pour accélérer la venue de cette singularité, selon deux axes (la singularité technologique liée aux IA, la singularité technologique liée à la recherche sur l'immortalité). Pourquoi deux axes ? parce que la firme postule que la solution est dans la convergence (IA/humanité) NBIC.

En d'autres termes, Google prend suffisamment au sérieux cette hypothèse, pour dépenser des dizaines de milliards de dollars pour viser à l'orienter vers une convergence homme/machine (comme solution à la peur de la Singularité).

De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.
avatar
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 14:08
@MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. D'ailleurs, il n'y a point de meilleur moyen pour mettre en vogue ou pour défendre des doctrines étranges et absurdes, que de les munir d'une légion de mots obscurs, douteux , et indéterminés. Ce qui pourtant rend ces retraites bien plus semblables à des cavernes de brigands ou à des tanières de renards qu'à des forteresses de généreux guerriers. Que s'il est malaisé d'en chasser ceux qui s'y réfugient, ce n'est pas à cause de la force de ces lieux-là, mais à cause des ronces, des épines et de l'obscurité des buissons dont ils sont environnés. Car la fausseté étant par elle-même incompatible avec l'esprit de l'homme, il n'y a que l'obscurité qui puisse servir de défense à ce qui est absurde. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
avatar
Celadon
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon le Mer 3 Déc 2014 - 14:34
"Le maître, l'esclave, tout ça."
Il y a pire, dans les relations : le maître, l'animal non domestique, de boucherie, etc. Et si nous devenions les animaux (traités comme nous traitons les nôtres actuellement) des nouveaux maîtres ? Mais je m'égare. Pour cela il faudrait que l'IA soit moins intelligente que l'humain. Et là je ne vois pas l'intérêt. Ni même la possibilité objective.
avatar
Anaxagore
Guide spirituel

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Anaxagore le Mer 3 Déc 2014 - 14:41
@JPhMM a écrit:
@MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

Ghost in the shell?
avatar
Normandyx
Neoprof expérimenté

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Normandyx le Mer 3 Déc 2014 - 14:45
Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus
avatar
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 14:47
@Anaxagore a écrit:
@JPhMM a écrit:
@MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?
Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

Ghost in the shell?
Arthur Koestler ?

Razz

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. D'ailleurs, il n'y a point de meilleur moyen pour mettre en vogue ou pour défendre des doctrines étranges et absurdes, que de les munir d'une légion de mots obscurs, douteux , et indéterminés. Ce qui pourtant rend ces retraites bien plus semblables à des cavernes de brigands ou à des tanières de renards qu'à des forteresses de généreux guerriers. Que s'il est malaisé d'en chasser ceux qui s'y réfugient, ce n'est pas à cause de la force de ces lieux-là, mais à cause des ronces, des épines et de l'obscurité des buissons dont ils sont environnés. Car la fausseté étant par elle-même incompatible avec l'esprit de l'homme, il n'y a que l'obscurité qui puisse servir de défense à ce qui est absurde. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
avatar
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 14:48
@Normandyx a écrit:Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus
D'autant que l'intelligence artificielle me semble plus facile techniquement à atteindre que la volonté artificielle, voire l'autodétermination artificielle.

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. D'ailleurs, il n'y a point de meilleur moyen pour mettre en vogue ou pour défendre des doctrines étranges et absurdes, que de les munir d'une légion de mots obscurs, douteux , et indéterminés. Ce qui pourtant rend ces retraites bien plus semblables à des cavernes de brigands ou à des tanières de renards qu'à des forteresses de généreux guerriers. Que s'il est malaisé d'en chasser ceux qui s'y réfugient, ce n'est pas à cause de la force de ces lieux-là, mais à cause des ronces, des épines et de l'obscurité des buissons dont ils sont environnés. Car la fausseté étant par elle-même incompatible avec l'esprit de l'homme, il n'y a que l'obscurité qui puisse servir de défense à ce qui est absurde. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
avatar
Sphinx
Modérateur

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx le Mer 3 Déc 2014 - 14:48
Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather

avatar
Anaxagore
Guide spirituel

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Anaxagore le Mer 3 Déc 2014 - 14:52
D'ailleurs ces jours-ci j'ai vu et entendu un paquet de choses assez singulières. C'est un signe. professeur

_________________
"De même que notre esprit devient plus fort grâce à la communication avec les esprits vigoureux et raisonnables, de même on ne peut pas dire combien il s'abâtardit par le commerce continuel et la fréquentation que nous avons des esprits bas et maladifs." Montaigne

"Woland fit un signe de la main, et Jérusalem s'éteignit."

"On déclame contre les passions sans songer que c'est à leur flambeau que la philosophie allume le sien." Sade
avatar
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 14:52
@Sphinx a écrit:Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).

@JPhMM a écrit:De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.

Cependant, et si ce n'était qu'une question de temps ? Plus j'y pense, moins je ne conçois de raison objective pour qu'un jour (fût-il très lointain) elle ne survienne pas.

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. D'ailleurs, il n'y a point de meilleur moyen pour mettre en vogue ou pour défendre des doctrines étranges et absurdes, que de les munir d'une légion de mots obscurs, douteux , et indéterminés. Ce qui pourtant rend ces retraites bien plus semblables à des cavernes de brigands ou à des tanières de renards qu'à des forteresses de généreux guerriers. Que s'il est malaisé d'en chasser ceux qui s'y réfugient, ce n'est pas à cause de la force de ces lieux-là, mais à cause des ronces, des épines et de l'obscurité des buissons dont ils sont environnés. Car la fausseté étant par elle-même incompatible avec l'esprit de l'homme, il n'y a que l'obscurité qui puisse servir de défense à ce qui est absurde. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
avatar
Sphinx
Modérateur

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx le Mer 3 Déc 2014 - 14:55
Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather

avatar
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 15:01
@Sphinx a écrit:Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.
Évidemment. Qui a dit le contraire ?

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. D'ailleurs, il n'y a point de meilleur moyen pour mettre en vogue ou pour défendre des doctrines étranges et absurdes, que de les munir d'une légion de mots obscurs, douteux , et indéterminés. Ce qui pourtant rend ces retraites bien plus semblables à des cavernes de brigands ou à des tanières de renards qu'à des forteresses de généreux guerriers. Que s'il est malaisé d'en chasser ceux qui s'y réfugient, ce n'est pas à cause de la force de ces lieux-là, mais à cause des ronces, des épines et de l'obscurité des buissons dont ils sont environnés. Car la fausseté étant par elle-même incompatible avec l'esprit de l'homme, il n'y a que l'obscurité qui puisse servir de défense à ce qui est absurde. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
avatar
Sphinx
Modérateur

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx le Mer 3 Déc 2014 - 15:03
Personne, mais je préfère prévenir Wink

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather

avatar
pmuller
Habitué du forum

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par pmuller le Mer 3 Déc 2014 - 15:05
Elle devrait surtout mettre fin à l'intelligence tout court.
avatar
linkus
Expert

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par linkus le Mer 3 Déc 2014 - 15:15
Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

_________________
J'entends souvent dire qu'avec l'agrégation, c'est travailler moins pour gagner plus. En réalité, avec le CAPES c'est travailler plus pour gagner moins. professeur

Avec un travail acharné, même un raté peut battre un génie. Rock Lee
Je ne suis pas gros, j'ai une ossature lourde!
Vous aimez Bomberman? Venez jouer à Bombermine. Very Happy
avatar
Sphinx
Modérateur

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx le Mer 3 Déc 2014 - 15:17
Ben, il y en a aussi qui essaient de mettre fin à l'intelligence de la race humaine.

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather

User17706
Enchanteur

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par User17706 le Mer 3 Déc 2014 - 15:19
@linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.
C'est bien ça. Nous, nous sommes des IPR (Intelligences à Potentiel Restreint).
avatar
JPhMM
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par JPhMM le Mer 3 Déc 2014 - 15:21
@Sphinx a écrit:Personne, mais je préfère prévenir Wink
Il est en effet tentant pour certains de voir dans ces possibles futures IA des formes de divinités technologiques. L'aspect religieux n'est pas à exclure donc.

_________________
Labyrinthe où l'admiration des ignorants et des idiots qui prennent pour savoir profond tout ce qu'ils n'entendent pas, les a retenus, bon gré malgré qu'ils en eussent. D'ailleurs, il n'y a point de meilleur moyen pour mettre en vogue ou pour défendre des doctrines étranges et absurdes, que de les munir d'une légion de mots obscurs, douteux , et indéterminés. Ce qui pourtant rend ces retraites bien plus semblables à des cavernes de brigands ou à des tanières de renards qu'à des forteresses de généreux guerriers. Que s'il est malaisé d'en chasser ceux qui s'y réfugient, ce n'est pas à cause de la force de ces lieux-là, mais à cause des ronces, des épines et de l'obscurité des buissons dont ils sont environnés. Car la fausseté étant par elle-même incompatible avec l'esprit de l'homme, il n'y a que l'obscurité qui puisse servir de défense à ce qui est absurde. — John Locke

Je crois que je ne crois en rien. Mais j'ai des doutes. — Jacques Goimard
avatar
pmuller
Habitué du forum

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par pmuller le Mer 3 Déc 2014 - 15:35
@linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

Oui, vu que cela n'existe plus... ?
avatar
Celadon
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon le Ven 5 Déc 2014 - 23:13
Ce qu'écrit Hawking m'a tellement remuée que j'ai regardé le 1er Terminator qui passait ce soir sur un canal quelconque alors que je suis résolument réfractaire à ce genre de films. C'est dire... Suspect
avatar
Ascagne
Fidèle du forum

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Ascagne le Sam 6 Déc 2014 - 1:34
Cela me fait penser au prochain Terminator... La série télévisée était plus intéressante que les films récents de la saga... Dans le domaine qui nous concerne, il y a des pistes plus intéressantes que les Terminator : Matrix, par exemple qui présente avec l'Architecte le cas d'une IA hyper rationnelle, mathématique et logique ; avec l'Oracle et quelques autres personnages, des IA qui se rapprochent de l'humain ; avec les machines dans le "monde réel" un exemple d'asservissement de l'humanité par des robots supérieurs.
C'est un détail dans les films, mais le ciel noir du monde réel dû à l'Operation Dark Storm est une très bonne mauvaise idée des humains pour essayer de vaincre les machines, dépendant à l'origine essentiellement de la lumière solaire : envoyer des nano-robots autorépliquants former des nuages infranchissables au-dessus du territoire des machines. Évidemment les machines trouvent des sources d'énergie alternatives, notamment les humains, tandis que les nuages artificiels, s'engendrant exponentiellement, recouvrent la planète, la rendant presque inhabitable à la vie organique en surface...
A mon avis, le risque que poseraient des IA supérieures et robotisées relèverait plus de problématiques comparables à celles de ces nano-robots de Matrix que du topos de Skynet qui lance toutes les ogives nucléaires une fois mis en route. Le danger pourrait provenir non pas d'une intention maligne (du moins de notre point de vue) ou neutre mais d'une volonté de bien faire.
Le fait est qu'il n'y aurait plus guère de commune mesure entre nous et des IA de ce genre une fois qu'elles auraient atteint ce niveau : les notions de limitation et de limites prennent un autre sens avec elles, dans un futur lointain.

Mais il n'y a pas besoin de se placer dans le futur lointain pour considérer les problèmes posés par l'intelligence artificielle - robotisée ou non (mais ayant prise sur le monde informatique - ah, la dépendance aux machines...). Du côté de la robotique, le robot n'a pas besoin d'être très intelligent pour poser des problèmes, par exemple.

Puisque j'évoquais la science-fiction : dans la série Stargate Universe (troisième des séries Stargate, d'un ton plus sérieux que ses prédécesseurs), l'équipage du Destiny
Spoiler:
rencontre certes quelques espèces alien de notre niveau, mais tombe surtout à partir d'un moment sur des collectifs de vaisseaux-drones qui les prennent en chasse à travers toute une galaxie. J'imagine qu'il y aurait beaucoup plus de probabilités de tomber sur cette deuxième catégorie d'êtres que sur la première si l'on était en mesure d'explorer ainsi l'espace.

Si nous parvenons à concevoir de telles machines, qu'elles nous détruisent, qu'elles vivent en symbiose ou qu'elles partent ailleurs, elles nous survivront : l'idée de colonisation spatiale (au-delà du système solaire) est pour l'instant (voire pour toujours) bien plus une histoire de machines que d'humains...
avatar
Celadon
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon le Sam 6 Déc 2014 - 9:24
Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère... pale
User21714
Expert spécialisé

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par User21714 le Sam 6 Déc 2014 - 10:10


1 -Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.

2 - Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

3 -Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

Les 3 lois édictées par Asimov ne suffiraient-elles pas à contrôler les Intelligences Artificielles?
avatar
nicolin
Niveau 5

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par nicolin le Sam 6 Déc 2014 - 10:43
Le problème majeur posé à une IA restera le même que celui qui est posé aux humains : le désir, n'est-ce pas ?
La seule différence, c'est qu'en ce qui nous concerne, c'est : lequel ?
Pour l'IA, l'existence même du désir.

(je précise que je n'ai pas lu Guattari)

_________________
http://audioblog.arteradio.com/blog/patchworks/
avatar
Celadon
Demi-dieu

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Celadon le Sam 6 Déc 2014 - 14:00
Ben on dirait, pourtant...
Républicain, on se rassure comme on peut.
avatar
Sphinx
Modérateur

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Sphinx le Sam 6 Déc 2014 - 18:33
@Celadon a écrit:Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère... pale

Sans aller jusque là (je ne les ai pas vus), il est évident que ces histoires relèvent de la pure fiction. Ils sont farcis de robots méchants, ambitieux, avides de pouvoir... etc : bref, imparfaits et fonctionnant à l'irrationnel. Humains, quoi. Quant au robot qui voyage dans le temps dans Terminator, faut peut-être pas pousser Razz

_________________
An education was a bit like a communicable sexual disease. It made you unsuitable for a lot of jobs and then you had the urge to pass it on. - Terry Pratchett, Hogfather

Contenu sponsorisé

Re: "L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

par Contenu sponsorisé
Voir le sujet précédentRevenir en hautVoir le sujet suivant
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum