"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

Je rappelle aussi que l'entreprise Google investit toutes ses économies depuis des années pour accélérer la venue de cette singularité, selon deux axes (la singularité technologique liée aux IA, la singularité technologique liée à la recherche sur l'immortalité). Pourquoi deux axes ? parce que la firme postule que la solution est dans la convergence (IA/humanité) NBIC.

En d'autres termes, Google prend suffisamment au sérieux cette hypothèse, pour dépenser des dizaines de milliards de dollars pour viser à l'orienter vers une convergence homme/machine (comme solution à la peur de la Singularité).

De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.

MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?

Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

"Le maître, l'esclave, tout ça."
Il y a pire, dans les relations : le maître, l'animal non domestique, de boucherie, etc. Et si nous devenions les animaux (traités comme nous traitons les nôtres actuellement) des nouveaux maîtres ? Mais je m'égare. Pour cela il faudrait que l'IA soit moins intelligente que l'humain. Et là je ne vois pas l'intérêt. Ni même la possibilité objective.

JPhMM a écrit:

MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?

Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

Ghost in the shell?

Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus

Anaxagore a écrit:

JPhMM a écrit:

MrBrightside a écrit:Je crois que ce que je n'arrive pas à comprendre c'est ce que pourrait "vouloir" une intelligence pure et désincarnée. A part survire peut-être ?

Désincarnée ? non.
Ce qu'elle voudrait : probablement la connaissance.

Mais nous tombons dans une question relative à l'hypothèse de la Singularité : sommes-nous en mesure de savoir ce que voudrait une intelligence qui est supérieure à la nôtre ?

Ghost in the shell?

Arthur Koestler ?

Normandyx a écrit:Intelligence artificielle, connerie naturelle, je ne suis pas certain que l'intelligence ait toujours le dessus

D'autant que l'intelligence artificielle me semble plus facile techniquement à atteindre que la volonté artificielle, voire l'autodétermination artificielle.

Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).

D'ailleurs ces jours-ci j'ai vu et entendu un paquet de choses assez singulières. C'est un signe.

Sphinx a écrit:Oh, pfff, encore ce trip à la mode de la singularité. Faites attention avec ça tout de même : les gens aiment à se faire peur et à croire en des intelligences supérieures, et il y a des sectes aux Etats-Unis qui vivent de ça. (Oui oui, on peut vous soutirer de l'argent en vous promettant la survie après l'avènement de la singularité).

JPhMM a écrit:De là à dire que ceux qui agitent les cauchemars de la Singularité agissent plus ou moins volontairement dans la même direction que les intérêts de Google, il n'y a qu'un pas.

Cependant, et si ce n'était qu'une question de temps ? Plus j'y pense, moins je ne conçois de raison objective pour qu'un jour (fût-il très lointain) elle ne survienne pas.

Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.

Sphinx a écrit:Ce qui n'est pas une raison pour se laisser soutirer des sous par un gourou malfaisant qui prétend faire de la recherche pour faire arriver l'IA gentille avant l'IA méchante.

Évidemment. Qui a dit le contraire ?

Personne, mais je préfère prévenir

Elle devrait surtout mettre fin à l'intelligence tout court.

Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

Ben, il y en a aussi qui essaient de mettre fin à l'intelligence de la race humaine.

linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

C'est bien ça. Nous, nous sommes des IPR (Intelligences à Potentiel Restreint).

Sphinx a écrit:Personne, mais je préfère prévenir

Il est en effet tentant pour certains de voir dans ces possibles futures IA des formes de divinités technologiques. L'aspect religieux n'est pas à exclure donc.

linkus a écrit:Pendant un seconde, je me suis demandé pourquoi vous parlez d'inspecteur académique.

Oui, vu que cela n'existe plus... ?

Ce qu'écrit Hawking m'a tellement remuée que j'ai regardé le 1er Terminator qui passait ce soir sur un canal quelconque alors que je suis résolument réfractaire à ce genre de films. C'est dire...

Cela me fait penser au prochain Terminator... La série télévisée était plus intéressante que les films récents de la saga... Dans le domaine qui nous concerne, il y a des pistes plus intéressantes que les Terminator : Matrix, par exemple qui présente avec l'Architecte le cas d'une IA hyper rationnelle, mathématique et logique ; avec l'Oracle et quelques autres personnages, des IA qui se rapprochent de l'humain ; avec les machines dans le "monde réel" un exemple d'asservissement de l'humanité par des robots supérieurs.
C'est un détail dans les films, mais le ciel noir du monde réel dû à l'Operation Dark Storm est une très bonne mauvaise idée des humains pour essayer de vaincre les machines, dépendant à l'origine essentiellement de la lumière solaire : envoyer des nano-robots autorépliquants former des nuages infranchissables au-dessus du territoire des machines. Évidemment les machines trouvent des sources d'énergie alternatives, notamment les humains, tandis que les nuages artificiels, s'engendrant exponentiellement, recouvrent la planète, la rendant presque inhabitable à la vie organique en surface...
A mon avis, le risque que poseraient des IA supérieures et robotisées relèverait plus de problématiques comparables à celles de ces nano-robots de Matrix que du topos de Skynet qui lance toutes les ogives nucléaires une fois mis en route. Le danger pourrait provenir non pas d'une intention maligne (du moins de notre point de vue) ou neutre mais d'une volonté de bien faire.
Le fait est qu'il n'y aurait plus guère de commune mesure entre nous et des IA de ce genre une fois qu'elles auraient atteint ce niveau : les notions de limitation et de limites prennent un autre sens avec elles, dans un futur lointain.

Mais il n'y a pas besoin de se placer dans le futur lointain pour considérer les problèmes posés par l'intelligence artificielle - robotisée ou non (mais ayant prise sur le monde informatique - ah, la dépendance aux machines...). Du côté de la robotique, le robot n'a pas besoin d'être très intelligent pour poser des problèmes, par exemple.

Puisque j'évoquais la science-fiction : dans la série Stargate Universe (troisième des séries Stargate, d'un ton plus sérieux que ses prédécesseurs), l'équipage du Destiny

Spoiler:

Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère...

1 -Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.

2 - Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

3 -Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.

Les 3 lois édictées par Asimov ne suffiraient-elles pas à contrôler les Intelligences Artificielles?

Le problème majeur posé à une IA restera le même que celui qui est posé aux humains : le désir, n'est-ce pas ?
La seule différence, c'est qu'en ce qui nous concerne, c'est : lequel ?
Pour l'IA, l'existence même du désir.

(je précise que je n'ai pas lu Guattari)

Ben on dirait, pourtant...
Républicain, on se rassure comme on peut.

Celadon a écrit:Quand je pense que tous ces films me sont restés parfaitement étrangers justement parce que je les prenais pour des élucubrations destinées à un public intellectuellement impubère...

Sans aller jusque là (je ne les ai pas vus), il est évident que ces histoires relèvent de la pure fiction. Ils sont farcis de robots méchants, ambitieux, avides de pouvoir... etc : bref, imparfaits et fonctionnant à l'irrationnel. Humains, quoi. Quant au robot qui voyage dans le temps dans Terminator, faut peut-être pas pousser