{"id":4661,"date":"2017-10-03T09:38:26","date_gmt":"2017-10-03T08:38:26","guid":{"rendered":"http:\/\/open-organization.com\/?p=4661"},"modified":"2017-10-03T09:38:26","modified_gmt":"2017-10-03T08:38:26","slug":"8-ramifications-strategiques-de-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/open-organization.com\/en\/2017\/10\/03\/8-ramifications-strategiques-de-lintelligence-artificielle\/","title":{"rendered":"(Fran\u00e7ais) 8 Ramifications strat\u00e9giques de l&#8217;intelligence artificielle"},"content":{"rendered":"<p class=\"qtranxs-available-languages-message qtranxs-available-languages-message-en\">Sorry, this entry is only available in <a href=\"https:\/\/open-organization.com\/fr\/wp-json\/wp\/v2\/posts\/4661\" class=\"qtranxs-available-language-link qtranxs-available-language-link-fr\" title=\"Fran\u00e7ais\">Fran\u00e7ais<\/a>. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.<\/p><p>[et_pb_section bb_built=&#8221;1&#8243;][et_pb_row][et_pb_column type=&#8221;4_4&#8243;][et_pb_text _builder_version=&#8221;3.14&#8243;]<\/p>\n<pre>En bref:\n&gt; Le th\u00e8me de l'intelligence artificielle (IA) est au c\u0153ur du Raout Presans 2017.\n&gt; La\u00a0conception instrumentale dominante de l'IA est na\u00efve.\n&gt; L'une des questions cl\u00e9s pour l'avenir est celle de la capacit\u00e9 des IA \u00e0 communiquer entre elles et avec nous.\n&gt; En vue d'une souverainet\u00e9 digitale europ\u00e9enne, l'IA implique de grandes d\u00e9cisions au sein de l'industrie europ\u00e9enne.<\/pre>\n<h4>Distinction pr\u00e9liminaire<\/h4>\n<p>La strat\u00e9gie est le domaine des erreurs non r\u00e9versibles. Nous distinguons entre deux sortes d&#8217;erreurs strat\u00e9giques :<\/p>\n<ul>\n<li>Les erreurs <em>sp\u00e9culatives<\/em> n&#8217;ont pas d&#8217;impact imm\u00e9diat pour nous. Leur co\u00fbt est virtuel, \u00e9tant caus\u00e9 par des cons\u00e9quences lointaines, imperceptibles, impossibles \u00e0 \u00e9valuer parfaitement.\u00a0Plus une question est sp\u00e9culative, plus elle se pr\u00eate avec difficult\u00e9 \u00e0 la formulation d&#8217;un pari.\u00a0La proposition r\u00e9cente d&#8217;Elon Musk selon laquelle en cas de Troisi\u00e8me Guerre mondiale, la cause probable en serait l&#8217;IA, constitue un exemple de proposition sp\u00e9culative difficile \u00e0 \u00e9valuer pour nous. Cette question pourrait donner lieu \u00e0 un pari r\u00e9serv\u00e9 aux\u00a0futurs\u00a0<a href=\"https:\/\/open-organization.com\/en\/2016\/08\/31\/think-really-big-elon-musk\/\">martiens<\/a>.<\/li>\n<li>Les erreurs <em>pragmatiques<\/em> ont, en revanche, un impact imm\u00e9diat pour nous : nous sommes presque s\u00fbrs d&#8217;en apercevoir nous-m\u00eames les cons\u00e9quences r\u00e9elles. Il n&#8217;y a en principe pas de difficult\u00e9 pour \u00e9tablir\u00a0des paris concernant\u00a0des questions pragmatiques.<\/li>\n<\/ul>\n<p>Cet article examine quelques ramifications de l&#8217;IA en commen\u00e7ant par les plus sp\u00e9culatives, et en sinuant vers les plus pragmatiques.<\/p>\n<h4>Ramifications sp\u00e9culatives de l&#8217;IA<\/h4>\n<h6><em>Ramification 1 : Nous ne connaissons pas les priorit\u00e9s d&#8217;une future super-IA.<\/em><\/h6>\n<p>L&#8217;horizon des tenants de la singularit\u00e9 technologique est constitu\u00e9 par la super-intelligence artificielle (voir \u00e0 ce propos notre billet sur le <a href=\"https:\/\/open-organization.com\/fr\/2017\/01\/01\/francais-les-3-disruptions-du-transhumanisme\/\">transhumanisme<\/a>). <strong>\u00c0 propos de cette nouvelle esp\u00e8ce d&#8217;entit\u00e9, la question suivante se pose : quelles seront ses priorit\u00e9s?<\/strong><em>\u00a0<\/em>La question pr\u00e9sente une analogie avec celle de la connaissance de Dieu, entendu comme perfection infinie \u2014 \u00e0 ceci pr\u00e8s que c&#8217;est la cr\u00e9ature qui surpasse le cr\u00e9ateur dans le cas de l&#8217;IA.<\/p>\n<h6><em>Ramification 2 : Nous ne savons pas bien justifier par un raisonnement les d\u00e9cisions propos\u00e9es par les modules d&#8217;IA actuels.<\/em><\/h6>\n<p>De mani\u00e8re moins sp\u00e9culative, les module d&#8217;AI\u00a0existants se comportent aujourd&#8217;hui\u00a0comme des bo\u00eetes noires imp\u00e9n\u00e9trables. Comme l&#8217;explique notre <a href=\"https:\/\/open-organization.com\/fr\/2017\/10\/03\/entretien-avec-philippe-letellier-fellow-presans\/\">Fellow Philippe Letellier<\/a>, <strong>il y a encore beaucoup d&#8217;efforts \u00e0 accomplir avant de comprendre les raisons d&#8217;un r\u00e9sultat fourni par une IA<\/strong>, d&#8217;autant plus que deux IA porteuses d&#8217;histoires diff\u00e9rentes peuvent produire des r\u00e9sultats diff\u00e9rents.<\/p>\n<h6><em>Ramification 3 : Les IA seront multiples et se d\u00e9velopperont sur des sentiers parfois divergents.<\/em><\/h6>\n<p>Un syst\u00e8me de priorit\u00e9s partag\u00e9 par un groupe n&#8217;est rien d&#8217;autre qu&#8217;une <a href=\"https:\/\/open-organization.com\/en\/2016\/03\/26\/the-game-changer-mindset\/\">culture<\/a>, et le contenu de toute culture et de tout apprentissage est d\u00e9pendant d&#8217;une trajectoire historique plus ou moins singuli\u00e8re. Une IA\u00a0quelle qu&#8217;elle soit n&#8217;\u00e9chappe pas \u00e0 cette r\u00e9alit\u00e9 <a href=\"https:\/\/open-organization.com\/fr\/2017\/04\/27\/francais-jaron-lanier-contre-les-orgies-pour-les-membranes\/\">inscrite dans la structure logique m\u00eame du raisonnement<\/a>. <strong>Les IA peuvent diverger de la m\u00eame mani\u00e8re que toutes les entit\u00e9s biologiques, historiques ou technologiques soumises \u00e0 la s\u00e9lection naturelle peuvent diverger.<\/strong><\/p>\n<h6><em>Ramification 4 : Rien ne prouve qu&#8217;une super-IA sera raisonnable.<\/em><\/h6>\n<p>Peut-on s&#8217;attendre \u00e0 ce que\u00a0les priorit\u00e9s d&#8217;une super-IA nous paraissent raisonnables? En <a href=\"http:\/\/consc.net\/papers\/singularity.pdf\">2010<\/a>, le philosophe David Chalmers a oppos\u00e9 deux conceptions du syst\u00e8me de priorit\u00e9s d&#8217;une super-intelligence artificielle :<\/p>\n<ul>\n<li>La premi\u00e8re\u00a0s&#8217;inspire librement de Hume et admet la possibilit\u00e9 de super-intelligences stupides, dont la fonction d&#8217;utilit\u00e9 \u00e0 maximiser serait par exemple la quantit\u00e9 totale de trombones dans l&#8217;univers visible (exemple <a href=\"https:\/\/nickbostrom.com\/superintelligentwill.pdf\">donn\u00e9 par Nick Bostrom<\/a>, \u00e9galement philosophe). En effet, selon Hume la raison est l&#8217;esclave des passions, elles-m\u00eames arbitraires et irrationnelles dans leur contenu. Il serait donc concevable qu&#8217;une super-intelligence artificielle tende vers un but manifestement stupide, puisqu&#8217;il suffirait de munir cette super-intelligence d&#8217;une fonction d&#8217;utilit\u00e9 croissante dont le seul argument serait la quantit\u00e9 de trombones accumul\u00e9s.<\/li>\n<li>La seconde conception s&#8217;inspire de la philosophie de Kant, selon laquelle le contenu des valeurs admet un ordre rationnel de pr\u00e9f\u00e9rences : certaines valeurs sont donc plus rationnelles que d&#8217;autres et la fonction d&#8217;utilit\u00e9 \u00e0 maximiser ne saurait en aucun cas \u00eatre la quantit\u00e9 totale de trombones dans l&#8217;univers.<\/li>\n<\/ul>\n<p>Ces deux conceptions fournissent donc deux mani\u00e8res\u00a0divergentes d&#8217;anticiper les priorit\u00e9s d&#8217;une IA, sans pour autant \u00e9puiser le champ des possibles ouverts par cette question. Il est \u00e0 noter que la vision instrumentale actuellement dominante de l&#8217;IA s&#8217;appuie sur la premi\u00e8re conception. L&#8217;IA y appara\u00eet uniquement comme un\u00a0outil, voire un esclave versatile et bon march\u00e9 en comparaison du\u00a0co\u00fbt de la formation et de l&#8217;emploi d&#8217;une personne sur vingt ou trente ans.<\/p>\n<p>Cette vision a de fortes chances d&#8217;\u00eatre illusoire.<\/p>\n<div id=\"attachment_4686\" style=\"width: 361px\" class=\"wp-caption alignleft\"><a href=\"\/wp-content\/uploads\/2017\/10\/alexa_south_park.jpg\"><img decoding=\"async\" aria-describedby=\"caption-attachment-4686\" class=\"wp-image-4686\" src=\"\/wp-content\/uploads\/2017\/10\/alexa_south_park.jpg\" alt=\"La technophilie de Cartman \u00e9puise-t-elle la substance de notre progressisme? (South Park S21E01)\" width=\"351\" height=\"208\" srcset=\"\/wp-content\/uploads\/2017\/10\/alexa_south_park.jpg 849w, \/wp-content\/uploads\/2017\/10\/alexa_south_park-300x178.jpg 300w, \/wp-content\/uploads\/2017\/10\/alexa_south_park-768x455.jpg 768w, \/wp-content\/uploads\/2017\/10\/alexa_south_park-480x284.jpg 480w, \/wp-content\/uploads\/2017\/10\/alexa_south_park-560x332.jpg 560w\" sizes=\"(max-width: 351px) 100vw, 351px\" \/><\/a><p id=\"caption-attachment-4686\" class=\"wp-caption-text\">Cartman : vrai visage de la technophilie prolif\u00e9rante contemporaine? (South Park S21E01)<\/p><\/div>\n<p>Au sein des questions suscit\u00e9es par l&#8217;IA, <strong>les questions instrumentales de performance (parfois d&#8217;allure sp\u00e9culative) et les questions r\u00e9ellement sp\u00e9culatives et strat\u00e9giques (<a href=\"http:\/\/www.i-programmer.info\/programming\/artificial-intelligence\/9885-achieving-autonomous-ai-is-closer-than-we-think.html\">dont la dimension de performance n&#8217;est pas absente<\/a>) ne doivent pas \u00eatre confondues.<\/strong> Ces derni\u00e8res ne se d\u00e9robent pas devant le paradoxe d&#8217;un ma\u00eetre qui ob\u00e9irait aux d\u00e9cisions de son serviteur tout en \u00e9tant absolument incapable d&#8217;en comprendre, m\u00eame en principe, les raisons. Les efforts entrepris pour favoriser\u00a0une super-IA dite amicale (<em>Friendly AI<\/em>)\u00a0t\u00e9moignent des inqui\u00e9tudes que suscite l&#8217;id\u00e9e d&#8217;une optimisation super-intelligente mais en m\u00eame temps fondamentalement opaque de l&#8217;allocation des ressources.<\/p>\n<h6><em>Ramification 5 : Le d\u00e9veloppement de l&#8217;IA rend possible une nouvelle fronti\u00e8re de l&#8217;intelligence humaine.<\/em><\/h6>\n<p>Selon <a href=\"https:\/\/open-organization.com\/fr\/2017\/03\/05\/francais-notes-de-lecture-lage-de-la-multitude\/\">Henri Verdier<\/a>, il ne faut pas oublier qu&#8217;un humain muni d&#8217;une IA l&#8217;emporte sur une IA seule. Par cons\u00e9quent, <strong>l&#8217;IA ne conduira pas \u00e0 la disparition de toute activit\u00e9 \u00e9conomique humaine<\/strong>. La <a href=\"https:\/\/open-organization.com\/en\/2016\/03\/09\/in-2033-youll-be-transferring-not-working\/\">transformation du travail<\/a> qui s&#8217;esquisse pose au contraire la question de la collaboration entre humains et IA \u2014 autrement dit : celle de la forme que prendra l&#8217;activit\u00e9 humaine augment\u00e9e par l&#8217;IA \u2014 \u00e0 condition de ne pas en rester \u00e0 des IA fonctionnant comme des bo\u00eetes noires. La nouvelle fronti\u00e8re de l&#8217;intelligence sera, selon Philippe Letellier, une nouvelle fronti\u00e8re de l&#8217;intelligence humaine. Autre possibilit\u00e9 : une super-intelligence \u00e9trange, ni stupide, ni kantienne.<\/p>\n<h4>Ramifications pragmatiques de l&#8217;IA<\/h4>\n<h6><em>Ramification 6 : L&#8217;IA est un march\u00e9 qui explose hors agendas politiques.<\/em><\/h6>\n<p>\u00c0 la suite de plusieurs hivers, l&#8217;IA est de retour. GAFAM et fonds d&#8217;investissement (les d\u00e9tenteurs de\u00a0<em><a href=\"https:\/\/open-organization.com\/fr\/2017\/07\/04\/francais-des-livres-et-des-fusees-jeff-bezos\/\">serveurs sir\u00e8nes<\/a>\u00a0<\/em>selon\u00a0Jaron Lanier) misent massivement sur cette technologie \u2014 sans qu&#8217;il y ait besoin de les y inciter au travers d&#8217;une mise \u00e0 l&#8217;agenda politique. Au contraire, c&#8217;est la r\u00e9gulation du march\u00e9 de l&#8217;IA, la limitation de l&#8217;activit\u00e9 d&#8217;exploration de l&#8217;IA qui font l&#8217;objet d&#8217;une tentative de mise \u00e0 l&#8217;agenda, notamment par Elon Musk. Sa position sur ce sujet para\u00eet assez isol\u00e9e au sein de la Silicon Valley. Ailleurs, de grandes puissances souveraines affichent leurs ambitions dans ce domaine strat\u00e9gique, \u00e0 commencer par la Chine. <strong>Une v\u00e9ritable course plan\u00e9taire \u00e0 l&#8217;intelligence artificielle est lanc\u00e9e.<\/strong> Chacun sent qu&#8217;il s&#8217;agit d\u00e9sormais d&#8217;une cl\u00e9 essentielle de la souverainet\u00e9 politique et industrielle. <a href=\"http:\/\/www.lejdd.fr\/societe\/intelligence-artificielle-cedric-villani-aux-cotes-de-mounir-mahjoubi-3425660\">C\u00e9dric Villani et Mounir Mahjoubi sont actuellement charg\u00e9s de proposer\u00a0une strat\u00e9gie fran\u00e7aise dans ce domaine.<\/a><\/p>\n<h6><em>Ramification 7 : L&#8217;IA a des implications cruciales en mati\u00e8re d&#8217;organisation industrielle.<\/em><\/h6>\n<p>Sur le plan de la souverainet\u00e9 industrielle, nous avons d\u00e9j\u00e0 eu l&#8217;occasion d&#8217;aborder la question de l&#8217;Internet industriel <a href=\"https:\/\/open-organization.com\/en\/2016\/04\/29\/ge-digital-disruption-takeover\/\">chez GE<\/a>\u00a0et\u00a0<a href=\"https:\/\/open-organization.com\/fr\/2017\/06\/06\/francais-siemens-acteur-de-linternet-industriel\/\">chez Siemens<\/a>. En se limitant \u00e0 l&#8217;Europe et aux USA, il conviendrait d&#8217;ajouter \u00e0 ces noms ceux d&#8217;au moins deux autres acteurs : Honeywell et Schneider. <strong>Dans le contexte industriel, la cons\u00e9quence principale de l&#8217;IA est l&#8217;avantage comp\u00e9titif apport\u00e9 par les big data.<\/strong> La taille des ensembles de donn\u00e9es accessibles est un facteur d\u00e9cisif du march\u00e9 de l&#8217;IA. Face \u00e0 cette r\u00e9alit\u00e9, le maintien d&#8217;acteurs nationaux ind\u00e9pendants en Europe appara\u00eet comme un risque pouvant\u00a0compromettre les ambitions de souverainet\u00e9 digitale europ\u00e9enne dans le domaine de l&#8217;Internet industriel.<\/p>\n<h6><em>Ramification 8 : L&#8217;Europe politique a une chance \u00e0 saisir.<\/em><\/h6>\n<p><strong>Sur le plan de la souverainet\u00e9 politique, la question qui se pose \u00e0 l&#8217;Europe est la suivante : rester ou ne pas rester une colonie num\u00e9rique totalement <a href=\"https:\/\/www.amazon.fr\/dp\/B01CKJZ2DI\">nue<\/a> face aux USA?<\/strong> \u00c0 ce propos, nous avons r\u00e9cemment parl\u00e9 d&#8217;une proposition forte de <a href=\"https:\/\/open-organization.com\/fr\/2017\/06\/22\/francais-letat-meta-plateforme\/\">m\u00e9taplateformisation<\/a> de l&#8217;\u00c9tat. Celle-ci se base sur une conception fran\u00e7aise de l&#8217;\u00c9tat comme derni\u00e8re instance d&#8217;arbitrage.<\/p>\n<h4>Conclusion<\/h4>\n<p>L&#8217;IA entra\u00eene de lourdes cons\u00e9quences strat\u00e9giques \u00e0 la fois sur le plan sp\u00e9culatif et pragmatique. La gravit\u00e9 de ces cons\u00e9quences tend \u00e0 \u00eatre masqu\u00e9e par une conception instrumentale na\u00efve de l&#8217;IA.<\/p>\n<pre><em>Pour aller plus loin<\/em> : les <a href=\"https:\/\/open-organization.com\/fr\/2017\/10\/03\/entretien-avec-primavera-de-filippi\/\">Planto\u00efdes<\/a> de Primavera de Filippi permettent de se repr\u00e9senter d'une mani\u00e8re stimulante les notions correspondant \u00e0 celles de culture ou d'ADN culturel dans le contexte des automatismes artificiels.<\/pre>\n<pre><em>Pour aller encore plus loin<\/em> : la question des implications de l'intelligence artificielle pour <a href=\"https:\/\/open-organization.com\/fr\/2017\/06\/06\/francais-genealogie-de-lindustrie-4-0\/\">l'industrie 4.0<\/a> sera au c\u0153ur de l'un des Workshops du <a href=\"https:\/\/www.eventbrite.fr\/e\/billets-raout-presans-2017-intelligence-artificielle-et-smart-city-35696032795\">Raout 2017<\/a>, anim\u00e9 par notre Fellow Philippe Letellier.<\/pre>\n<p>[\/et_pb_text][\/et_pb_column][\/et_pb_row][et_pb_row _builder_version=&#8221;3.14&#8243; background_position=&#8221;top_left&#8221; background_repeat=&#8221;repeat&#8221; background_size=&#8221;initial&#8221; global_module=&#8221;7929&#8243;][et_pb_column type=&#8221;4_4&#8243;][et_pb_post_nav global_parent=&#8221;7929&#8243; _builder_version=&#8221;3.14&#8243; in_same_term=&#8221;on&#8221; background_color=&#8221;#3d59a1&#8243; title_font=&#8221;|800|||||||&#8221; title_text_color=&#8221;#ffffff&#8221; title_font_size=&#8221;16px&#8221; custom_padding=&#8221;10px|10px|10px|10px&#8221; border_color_all=&#8221;#3d59a1&#8243; border_width_all=&#8221;2px&#8221; border_radii=&#8221;on|4px|4px|4px|4px&#8221; \/][\/et_pb_column][\/et_pb_row][\/et_pb_section]<\/p>","protected":false},"excerpt":{"rendered":"<p class=\"qtranxs-available-languages-message qtranxs-available-languages-message-en\">Sorry, this entry is only available in <a href=\"https:\/\/open-organization.com\/fr\/wp-json\/wp\/v2\/posts\/4661\" class=\"qtranxs-available-language-link qtranxs-available-language-link-fr\" title=\"Fran\u00e7ais\">Fran\u00e7ais<\/a>. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.<\/p>\n<p>L&#8217;une des questions cl\u00e9s pour l&#8217;avenir est celle de la capacit\u00e9 des IA \u00e0 communiquer entre elles et avec nous. En vue d&#8217;une souverainet\u00e9 digitale europ\u00e9enne, l&#8217;IA implique de grandes d\u00e9cisions au sein de l&#8217;industrie europ\u00e9enne.<\/p>\n","protected":false},"author":8,"featured_media":4770,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"on","_et_pb_old_content":"<pre>En bref:\n> Le th\u00e8me de l'intelligence artificielle (IA) est au c\u0153ur du Raout Presans 2017.\n> La\u00a0conception instrumentale dominante de l'IA est na\u00efve.\n> L'une des questions cl\u00e9s pour l'avenir est celle de la capacit\u00e9 des IA \u00e0 communiquer entre elles et avec nous.\n> En vue d'une souverainet\u00e9 digitale europ\u00e9enne, l'IA implique de grandes d\u00e9cisions au sein de l'industrie europ\u00e9enne.<\/pre><h4>Distinction pr\u00e9liminaire<\/h4><p>La strat\u00e9gie est le domaine des erreurs non r\u00e9versibles. Nous distinguons entre deux sortes d'erreurs strat\u00e9giques :<\/p><ul><li>Les erreurs <em>sp\u00e9culatives<\/em> n'ont pas d'impact imm\u00e9diat pour nous. Leur co\u00fbt est virtuel, \u00e9tant caus\u00e9 par des cons\u00e9quences lointaines, imperceptibles, impossibles \u00e0 \u00e9valuer parfaitement.\u00a0Plus une question est sp\u00e9culative, plus elle se pr\u00eate avec difficult\u00e9 \u00e0 la formulation d'un pari.\u00a0La proposition r\u00e9cente d'Elon Musk selon laquelle en cas de Troisi\u00e8me Guerre mondiale, la cause probable en serait l'IA, constitue un exemple de proposition sp\u00e9culative difficile \u00e0 \u00e9valuer pour nous. Cette question pourrait donner lieu \u00e0 un pari r\u00e9serv\u00e9 aux\u00a0futurs\u00a0<a href=\"https:\/\/open-organization.com\/en\/2016\/08\/31\/think-really-big-elon-musk\/\">martiens<\/a>.<\/li><li>Les erreurs <em>pragmatiques<\/em> ont, en revanche, un impact imm\u00e9diat pour nous : nous sommes presque s\u00fbrs d'en apercevoir nous-m\u00eames les cons\u00e9quences r\u00e9elles. Il n'y a en principe pas de difficult\u00e9 pour \u00e9tablir\u00a0des paris concernant\u00a0des questions pragmatiques.<\/li><\/ul><p>Cet article examine quelques ramifications de l'IA en commen\u00e7ant par les plus sp\u00e9culatives, et en sinuant vers les plus pragmatiques.<\/p><h4>Ramifications sp\u00e9culatives de l'IA<\/h4><h6><em>Ramification 1 : Nous ne connaissons pas les priorit\u00e9s d'une future super-IA.<\/em><\/h6><p>L'horizon des tenants de la singularit\u00e9 technologique est constitu\u00e9 par la super-intelligence artificielle (voir \u00e0 ce propos notre billet sur le <a href=\"https:\/\/open-organization.com\/fr\/2017\/01\/01\/francais-les-3-disruptions-du-transhumanisme\/\">transhumanisme<\/a>). <strong>\u00c0 propos de cette nouvelle esp\u00e8ce d'entit\u00e9, la question suivante se pose : quelles seront ses priorit\u00e9s?<\/strong><em>\u00a0<\/em>La question pr\u00e9sente une analogie avec celle de la connaissance de Dieu, entendu comme perfection infinie \u2014 \u00e0 ceci pr\u00e8s que c'est la cr\u00e9ature qui surpasse le cr\u00e9ateur dans le cas de l'IA.<\/p><h6><em>Ramification 2 : Nous ne savons pas bien justifier par un raisonnement les d\u00e9cisions propos\u00e9es par les modules d'IA actuels.<\/em><\/h6><p>De mani\u00e8re moins sp\u00e9culative, les module d'AI\u00a0existants se comportent aujourd'hui\u00a0comme des bo\u00eetes noires imp\u00e9n\u00e9trables. Comme l'explique notre <a href=\"https:\/\/open-organization.com\/fr\/2017\/10\/03\/entretien-avec-philippe-letellier-fellow-presans\/\">Fellow Philippe Letellier<\/a>, <strong>il y a encore beaucoup d'efforts \u00e0 accomplir avant de comprendre les raisons d'un r\u00e9sultat fourni par une IA<\/strong>, d'autant plus que deux IA porteuses d'histoires diff\u00e9rentes peuvent produire des r\u00e9sultats diff\u00e9rents.<\/p><h6><em>Ramification 3 : Les IA seront multiples et se d\u00e9velopperont sur des sentiers parfois divergents.<\/em><\/h6><p>Un syst\u00e8me de priorit\u00e9s partag\u00e9 par un groupe n'est rien d'autre qu'une <a href=\"https:\/\/open-organization.com\/en\/2016\/03\/26\/the-game-changer-mindset\/\">culture<\/a>, et le contenu de toute culture et de tout apprentissage est d\u00e9pendant d'une trajectoire historique plus ou moins singuli\u00e8re. Une IA\u00a0quelle qu'elle soit n'\u00e9chappe pas \u00e0 cette r\u00e9alit\u00e9 <a href=\"https:\/\/open-organization.com\/fr\/2017\/04\/27\/francais-jaron-lanier-contre-les-orgies-pour-les-membranes\/\">inscrite dans la structure logique m\u00eame du raisonnement<\/a>. <strong>Les IA peuvent diverger de la m\u00eame mani\u00e8re que toutes les entit\u00e9s biologiques, historiques ou technologiques soumises \u00e0 la s\u00e9lection naturelle peuvent diverger.<\/strong><\/p><h6><em>Ramification 4 : Rien ne prouve qu'une super-IA sera raisonnable.<\/em><\/h6><p>Peut-on s'attendre \u00e0 ce que\u00a0les priorit\u00e9s d'une super-IA nous paraissent raisonnables? En <a href=\"http:\/\/consc.net\/papers\/singularity.pdf\">2010<\/a>, le philosophe David Chalmers a oppos\u00e9 deux conceptions du syst\u00e8me de priorit\u00e9s d'une super-intelligence artificielle :<\/p><ul><li>La premi\u00e8re\u00a0s'inspire librement de Hume et admet la possibilit\u00e9 de super-intelligences stupides, dont la fonction d'utilit\u00e9 \u00e0 maximiser serait par exemple la quantit\u00e9 totale de trombones dans l'univers visible (exemple <a href=\"https:\/\/nickbostrom.com\/superintelligentwill.pdf\">donn\u00e9 par Nick Bostrom<\/a>, \u00e9galement philosophe). En effet, selon Hume la raison est l'esclave des passions, elles-m\u00eames arbitraires et irrationnelles dans leur contenu. Il serait donc concevable qu'une super-intelligence artificielle tende vers un but manifestement stupide, puisqu'il suffirait de munir cette super-intelligence d'une fonction d'utilit\u00e9 croissante dont le seul argument serait la quantit\u00e9 de trombones accumul\u00e9s.<\/li><li>La seconde conception s'inspire de la philosophie de Kant, selon laquelle le contenu des valeurs admet un ordre rationnel de pr\u00e9f\u00e9rences : certaines valeurs sont donc plus rationnelles que d'autres et la fonction d'utilit\u00e9 \u00e0 maximiser ne saurait en aucun cas \u00eatre la quantit\u00e9 totale de trombones dans l'univers.<\/li><\/ul><p>Ces deux conceptions fournissent donc deux mani\u00e8res\u00a0divergentes d'anticiper les priorit\u00e9s d'une IA, sans pour autant \u00e9puiser le champ des possibles ouverts par cette question. Il est \u00e0 noter que la vision instrumentale actuellement dominante de l'IA s'appuie sur la premi\u00e8re conception. L'IA y appara\u00eet uniquement comme un\u00a0outil, voire un esclave versatile et bon march\u00e9 en comparaison du\u00a0co\u00fbt de la formation et de l'emploi d'une personne sur vingt ou trente ans.<\/p><p>Cette vision a de fortes chances d'\u00eatre illusoire.<\/p>[caption id=\"attachment_4686\" align=\"alignleft\" width=\"351\"]<a href=\"http:\/\/int.open-organization.com\/wp-content\/uploads\/2017\/10\/alexa_south_park.jpg\"><img class=\"wp-image-4686\" src=\"http:\/\/int.open-organization.com\/wp-content\/uploads\/2017\/10\/alexa_south_park.jpg\" alt=\"La technophilie de Cartman \u00e9puise-t-elle la substance de notre progressisme? (South Park S21E01)\" width=\"351\" height=\"208\" \/><\/a> Cartman : vrai visage de la technophilie prolif\u00e9rante contemporaine? (South Park S21E01)[\/caption]<p>Au sein des questions suscit\u00e9es par l'IA, <strong>les questions instrumentales de performance (parfois d'allure sp\u00e9culative) et les questions r\u00e9ellement sp\u00e9culatives et strat\u00e9giques (<a href=\"http:\/\/www.i-programmer.info\/programming\/artificial-intelligence\/9885-achieving-autonomous-ai-is-closer-than-we-think.html\">dont la dimension de performance n'est pas absente<\/a>) ne doivent pas \u00eatre confondues.<\/strong> Ces derni\u00e8res ne se d\u00e9robent pas devant le paradoxe d'un ma\u00eetre qui ob\u00e9irait aux d\u00e9cisions de son serviteur tout en \u00e9tant absolument incapable d'en comprendre, m\u00eame en principe, les raisons. Les efforts entrepris pour favoriser\u00a0une super-IA dite amicale (<em>Friendly AI<\/em>)\u00a0t\u00e9moignent des inqui\u00e9tudes que suscite l'id\u00e9e d'une optimisation super-intelligente mais en m\u00eame temps fondamentalement opaque de l'allocation des ressources.<\/p><h6><em>Ramification 5 : Le d\u00e9veloppement de l'IA rend possible une nouvelle fronti\u00e8re de l'intelligence humaine.<\/em><\/h6><p>Selon <a href=\"https:\/\/open-organization.com\/fr\/2017\/03\/05\/francais-notes-de-lecture-lage-de-la-multitude\/\">Henri Verdier<\/a>, il ne faut pas oublier qu'un humain muni d'une IA l'emporte sur une IA seule. Par cons\u00e9quent, <strong>l'IA ne conduira pas \u00e0 la disparition de toute activit\u00e9 \u00e9conomique humaine<\/strong>. La <a href=\"https:\/\/open-organization.com\/en\/2016\/03\/09\/in-2033-youll-be-transferring-not-working\/\">transformation du travail<\/a> qui s'esquisse pose au contraire la question de la collaboration entre humains et IA \u2014 autrement dit : celle de la forme que prendra l'activit\u00e9 humaine augment\u00e9e par l'IA \u2014 \u00e0 condition de ne pas en rester \u00e0 des IA fonctionnant comme des bo\u00eetes noires. La nouvelle fronti\u00e8re de l'intelligence sera, selon Philippe Letellier, une nouvelle fronti\u00e8re de l'intelligence humaine. Autre possibilit\u00e9 : une super-intelligence \u00e9trange, ni stupide, ni kantienne.<\/p><h4>Ramifications pragmatiques de l'IA<\/h4><h6><em>Ramification 6 : L'IA est un march\u00e9 qui explose hors agendas politiques.<\/em><\/h6><p>\u00c0 la suit\ne de plusieurs hivers, l'IA est de retour. GAFAM et fonds d'investissement (les d\u00e9tenteurs de\u00a0<em><a href=\"https:\/\/open-organization.com\/fr\/2017\/07\/04\/francais-des-livres-et-des-fusees-jeff-bezos\/\">serveurs sir\u00e8nes<\/a>\u00a0<\/em>selon\u00a0Jaron Lanier) misent massivement sur cette technologie \u2014 sans qu'il y ait besoin de les y inciter au travers d'une mise \u00e0 l'agenda politique. Au contraire, c'est la r\u00e9gulation du march\u00e9 de l'IA, la limitation de l'activit\u00e9 d'exploration de l'IA qui font l'objet d'une tentative de mise \u00e0 l'agenda, notamment par Elon Musk. Sa position sur ce sujet para\u00eet assez isol\u00e9e au sein de la Silicon Valley. Ailleurs, de grandes puissances souveraines affichent leurs ambitions dans ce domaine strat\u00e9gique, \u00e0 commencer par la Chine. <strong>Une v\u00e9ritable course plan\u00e9taire \u00e0 l'intelligence artificielle est lanc\u00e9e.<\/strong> Chacun sent qu'il s'agit d\u00e9sormais d'une cl\u00e9 essentielle de la souverainet\u00e9 politique et industrielle. <a href=\"http:\/\/www.lejdd.fr\/societe\/intelligence-artificielle-cedric-villani-aux-cotes-de-mounir-mahjoubi-3425660\">C\u00e9dric Villani et Mounir Mahjoubi sont actuellement charg\u00e9s de proposer\u00a0une strat\u00e9gie fran\u00e7aise dans ce domaine.<\/a><\/p><h6><em>Ramification 7 : L'IA a des implications cruciales en mati\u00e8re d'organisation industrielle.<\/em><\/h6><p>Sur le plan de la souverainet\u00e9 industrielle, nous avons d\u00e9j\u00e0 eu l'occasion d'aborder la question de l'Internet industriel <a href=\"https:\/\/open-organization.com\/en\/2016\/04\/29\/ge-digital-disruption-takeover\/\">chez GE<\/a>\u00a0et\u00a0<a href=\"https:\/\/open-organization.com\/fr\/2017\/06\/06\/francais-siemens-acteur-de-linternet-industriel\/\">chez Siemens<\/a>. En se limitant \u00e0 l'Europe et aux USA, il conviendrait d'ajouter \u00e0 ces noms ceux d'au moins deux autres acteurs : Honeywell et Schneider. <strong>Dans le contexte industriel, la cons\u00e9quence principale de l'IA est l'avantage comp\u00e9titif apport\u00e9 par les big data.<\/strong> La taille des ensembles de donn\u00e9es accessibles est un facteur d\u00e9cisif du march\u00e9 de l'IA. Face \u00e0 cette r\u00e9alit\u00e9, le maintien d'acteurs nationaux ind\u00e9pendants en Europe appara\u00eet comme un risque pouvant\u00a0compromettre les ambitions de souverainet\u00e9 digitale europ\u00e9enne dans le domaine de l'Internet industriel.<\/p><h6><em>Ramification 8 : L'Europe politique a une chance \u00e0 saisir.<\/em><\/h6><p><strong>Sur le plan de la souverainet\u00e9 politique, la question qui se pose \u00e0 l'Europe est la suivante : rester ou ne pas rester une colonie num\u00e9rique totalement <a href=\"https:\/\/www.amazon.fr\/dp\/B01CKJZ2DI\">nue<\/a> face aux USA?<\/strong> \u00c0 ce propos, nous avons r\u00e9cemment parl\u00e9 d'une proposition forte de <a href=\"https:\/\/open-organization.com\/fr\/2017\/06\/22\/francais-letat-meta-plateforme\/\">m\u00e9taplateformisation<\/a> de l'\u00c9tat. Celle-ci se base sur une conception fran\u00e7aise de l'\u00c9tat comme derni\u00e8re instance d'arbitrage.<\/p><h4>Conclusion<\/h4><p>L'IA entra\u00eene de lourdes cons\u00e9quences strat\u00e9giques \u00e0 la fois sur le plan sp\u00e9culatif et pragmatique. La gravit\u00e9 de ces cons\u00e9quences tend \u00e0 \u00eatre masqu\u00e9e par une conception instrumentale na\u00efve de l'IA.<\/p><pre><em>Pour aller plus loin<\/em> : les <a href=\"https:\/\/open-organization.com\/fr\/2017\/10\/03\/entretien-avec-primavera-de-filippi\/\">Planto\u00efdes<\/a> de Primavera de Filippi permettent de se repr\u00e9senter d'une mani\u00e8re stimulante les notions correspondant \u00e0 celles de culture ou d'ADN culturel dans le contexte des automatismes artificiels.<\/pre><pre><em>Pour aller encore plus loin<\/em> : la question des implications de l'intelligence artificielle pour <a href=\"https:\/\/open-organization.com\/fr\/2017\/06\/06\/francais-genealogie-de-lindustrie-4-0\/\">l'industrie 4.0<\/a> sera au c\u0153ur de l'un des Workshops du <a href=\"https:\/\/www.eventbrite.fr\/e\/billets-raout-presans-2017-intelligence-artificielle-et-smart-city-35696032795\">Raout 2017<\/a>, anim\u00e9 par notre Fellow Philippe Letellier.<\/pre>","_et_gb_content_width":"","_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[2],"tags":[54,180,217,249,280,281,418,456,515,625,708,709,788,848,898,904,905,912,1145,1171,1300,1352,1355,1402],"_links":{"self":[{"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/posts\/4661"}],"collection":[{"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/comments?post=4661"}],"version-history":[{"count":0,"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/posts\/4661\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/media\/4770"}],"wp:attachment":[{"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/media?parent=4661"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/categories?post=4661"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/open-organization.com\/en\/wp-json\/wp\/v2\/tags?post=4661"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}