Catégories
Actualités Start-Up

Steve Blank Technologie, innovation et guerre moderne – Classe 7 – Jack Shanahan

Nous venons de tenir notre septième session de notre nouvelle classe de sécurité nationale Technologie, innovation et guerre moderne. Joe Felter, Raj Shah et moi avons conçu la classe pour examiner les nouveaux systèmes militaires, les concepts opérationnels et les doctrines qui émergeront des technologies du 21e siècle – Espace, Cyber, IA & Machine Learning et Autonomie.

Le sujet d’aujourd’hui était Applications militaires de l'intelligence artificielle.

Retrouvez la classe en lisant nos résumés des 6 classes précédentes ici.


Si vous ne pouvez pas voir les diapositives ci-dessus, cliquez ici.

Notre conférencier invité était le général Jack Shanahan LTG (retraité), ancien directeur du Joint Artificial Intelligence Center (JAIC).

Certaines des lectures de cette session de classe comprenaient: Le Pentagone peut-il gagner la course aux armements de l'IA?, The Ethical Upside To Artificial Intelligence, The Coming Revolution in Intelligence Affairs, Intelligence artificielle pour l'évacuation médicale dans les conflits de grande puissance, service de recherche du Congrès, intelligence artificielle et sécurité nationale.

AI et le ministère de la Défense
En guise de préparation à cette session de classe, nous avons parlé de l’impact des nouvelles technologies sur le DOD. L'IA est constamment mentionnée comme un facteur potentiel pour la défense.

Le général Shanahan a fondé le Joint Artificial Intelligence Center (le JAIC) pour insérer l'IA dans tout le département de la Défense. L'objectif est d'utiliser l'IA pour résoudre des ensembles de problèmes vastes et complexes qui couvrent plusieurs services; ensuite, assurez-vous que tout le DOD a accès en temps réel aux bibliothèques d'ensembles de données et d'outils. Un élément clé de la stratégie était de travailler avec des sociétés commerciales pour aider à construire ces solutions.

Avant le JAIC, le général Shanahan dirigeait le projet Maven, un essai non intentionnel sur la façon dont le DOD et les entreprises commerciales pouvaient s'associer (ou non) pour créer des applications compatibles avec l'IA. Maven s'est associé à Google pour créer un outil de vision par ordinateur permettant aux analystes d'imagerie de détecter automatiquement les objets / cibles. La relation a pris fin lorsque les employés de Google ont forcé l'entreprise à se retirer du projet.

Il y avait beaucoup de leçons des deux côtés – sur la transparence, sur les raisons pour lesquelles les entreprises du 20e siècle avaient des «divisions des systèmes fédéraux» qui travaillaient exclusivement sur des projets gouvernementaux, tandis que le reste de leur entreprise poursuivait des activités commerciales – ainsi que de nombreuses leçons de réapprentissage la vallée avait oublié (voir l'histoire secrète de la Silicon Valley).

Toute cette session de classe était une conférence du général Shanahan et des questions et réponses avec les étudiants. Il est intéressant de noter combien de ses observations font écho à celles que Chris Brose et Will Roper ont faites lors des sessions précédentes.

J'ai extrait et paraphrasé quelques-unes de ses idées clés ci-dessous, mais il y en a beaucoup d'autres tout au long de cette discussion de fond. Je vous exhorte à lire l'intégralité de la transcription et à regarder la vidéo.

Urgence tactique et patience stratégique
Nous avons une fenêtre relativement petite pour transformer notre département de la Défense respectif d'organisations centrées sur le matériel de l'ère industrielle à des organisations centrées sur les logiciels de l'ère de l'information, plus tolérantes au risque. Cela exige la bonne combinaison d’urgence tactique et de patience stratégique, mais il ne fait aucun doute que nous devons agir avec empressement dans ce domaine dès maintenant.

La guerre est une entreprise très incertaine dirigée par des humains. Si nous nous trouvons au bord d'un conflit avec la Chine dans 20 ans, l'idée que nous pourrions avoir une force entièrement activée par l'IA d'ici là ne garantira pas à elle seule la victoire. Si d'un autre côté, au cours de cette même période de 20 ans, la Chine dispose d'une force entièrement activée par l'IA et ce n'est pas le cas, je crois que nous courrons un risque de défaite inacceptable.

Projet Maven – Commencez par le problème – Automatisez l'analyse des images
Nous n’avons pas lancé le projet Maven avec une solution d’IA. Nous avons commencé avec un problème: beaucoup trop d'informations provenant de l'entreprise de renseignement; renseignement, surveillance, reconnaissance. Cela a été fait manuellement – un travail intensif et stupéfiant avec des analystes regardant des écrans vidéo pendant 12 heures par quart de travail. Ils n’ont jamais pu surmonter cela. Il était vraiment difficile pour les analystes d'absorber cette quantité de données et les données augmentaient – en volume, en vitesse et en rythme – et elles provenaient de toutes les sources simultanément, des niveaux non classés aux plus hauts niveaux de classification.

Nous ne cherchions pas à faire une solution 1x, une solution 5x ou même une solution 10X. Nous voulions une solution 100X. Nous avions besoin de quelque chose qui changerait vraiment la façon dont nous traitions l'exploitation et la diffusion de toutes ces informations provenant de toutes ces plates-formes et centres dans le monde.

Nous sommes sortis et avons sollicité tout ce que nous pouvions trouver au ministère de la Défense. Il y avait un travail énorme d'IA en cours dans les laboratoires de recherche, mais rien de disponible pour faire l'exploitation et la diffusion du traitement à court terme. Le problème était que, bien que les laboratoires de recherche militaires effectuaient certaines des meilleures recherches au monde, cela ne traversait pas la vallée technologique classique de la mort. (J'aime parler de Maven et du JAIC comme «AI Now», puis des endroits comme DARPA et les laboratoires de recherche militaire comme «AI Next».)

Où cette technologie d'IA existait-elle d'autre? DIUx, In-Q-tel et d’autres nous ont fait remarquer: «Vous vous plaignez de la quantité d’informations que vous devez collecter et traiter. Regardez la quantité d'informations que YouTube recueille chaque jour. Vos problèmes ne sont pas un problème écrasant. Il existe des solutions disponibles dans l’industrie commerciale. »

Alors, comment prendre la technologie de l'industrie commerciale, l'adapter aux fins du ministère de la Défense, le faire assez rapidement et le faire à grande échelle dans tout le ministère de la Défense? La seule façon de le faire était de commencer à introduire ces technologies commerciales de plus en plus rapidement.

Ainsi, le projet Maven nous a lancés sur la voie de la mise en place d'une solution basée sur l'IA à des fins de renseignement. Vision par ordinateur en grande partie après la prise de drones. D'abord des drones tactiques, puis des drones de moyenne altitude, finalement des avions habités à haute altitude et même des images commerciales, en collaboration avec la National Geospatial Intelligence Agency.

Le JAIC – Passez à l'échelle et à la vitesse
Après quelques années de réalisation du projet Maven, Bob Work (alors secrétaire adjoint à la Défense) avait hâte d'aller au-delà du renseignement. Il a dit que Maven n'avait jamais été conçu pour être uniquement une affaire de renseignement, que nous devions faire intervenir chaque mission du ministère de la Défense et que nous devions aller beaucoup plus vite. Il y avait une révolution en cours dans l'industrie commerciale et le DOD ne l'a pas compris.

J'ai été agréé pour défendre le JAIC sous une forme que Joe et Raj, et je suis sûr que Steve apprécierait. Quelqu'un a signé une note disant: «Allez créer un centre d'IA commun. Vous n’avez personne, vous n’avez pas d’argent, vous n’avez nulle part où vivre, mais vous le comprendrez. »

Lean, MVP et DOD
Le projet Maven est devenu la base de ce que nous avons fait dans le JAIC. Nous avons commencé avec une équipe interfonctionnelle. Dans la technologie commerciale, vous appelez cela une équipe de produit intégrée, c'est une acquisition avec l'ingénierie logicielle avec UI / UX. Cette idée d'interface utilisateur / expérience utilisateur U / UX, une focalisation impitoyable sur l'expérience utilisateur, le DOD n'a jamais été très bon dans ce domaine.

C’est aussi apprendre à mettre rapidement les choses sous contrat, à faire avancer les choses et à les gérer rapidement. C'était tout ce que vous pouviez faire pour vous éloigner de la manière classique de faire des affaires du DOD pour une approche logicielle beaucoup plus agile.

Josh Marcuse et le Defense Innovation Board ont joué un rôle déterminant en nous aidant à voir quels étaient ces principes agiles et comment nous pourrions agir et aller vite. Et nous avons adopté l'approche technologique commerciale classique consistant à créer des produits minimaux viables: obtenir quelque chose qui fonctionnera suffisamment bien. Faites savoir à l'utilisateur ce qu'il va obtenir au lieu de simplement lui forcer quelque chose dans la gorge en prétendant que c'était bien mieux qu'il ne l'était vraiment.

Produits viables minimaux
L’idée d’un produit viable minimal n’est pas ce avec quoi le ministère de la Défense a vécu, elle est là dans les poches. Mais nous devons être bien meilleurs dans ce domaine.

Qu'est-ce qui est «assez bon» lorsque nous déployons ces capacités? Ce n'était jamais à nous de le dire. C'était aux utilisateurs des capacités de nous le dire. Nous donnerions quelques paramètres comme: «C'est une solution de test et d'évaluation à 95%. L'acceptez-vous? "Je ne sais pas. Laissez-moi l'essayer.

L'autre raison pour laquelle nous voulions pousser les capacités activées par l'IA sur le terrain le plus rapidement possible est que jusqu'à ce que les utilisateurs puissent jouer avec, ce n'est que de la science-fiction. Vous entendez toutes ces histoires grandioses sur ce qu'est l'IA. Mais peu de gens disent ce que l'IA n'est pas. Et au ministère de la Défense, il s’agit plus de ce qu’il n’est pas que de ce que c’est. Il y a tellement plus que nous devons faire pour amener les gens à utiliser ces capacités. Dès qu'ils le touchent, ils disent: «Eh bien, si ça peut faire ça, qu'en est-il de ça?» Chaque fois qu’ils ont dit cela, nous avons dit oui, cela peut être fait. Nous allons donc améliorer de plus en plus ce produit dans une sorte d’approche agile rapide d’intégration continue, de livraison continue.

Tel est l’avenir du ministère de la Défense. Si nous n’y parvenons pas, nous sommes condamnés, car les capacités de l’IA laissées à elles-mêmes six mois plus tard deviendront inutiles. Comme tout logiciel commercial, il doit s’agir d’un cycle de développement continu. Donc, cette idée de MVP, qui met les capacités entre les mains de l’utilisateur, les laisse les déchirer, nous dit ce qui a fonctionné, ce qui n’a pas fonctionné, ce qu’ils aimeraient mieux voir. C'était vraiment le concept central de Maven, puis du JAIC.

L'idée qu'Ops et Intel travaillent plus étroitement ensemble, ces deux mondes fusionnant, est l'idée du Saint Graal de la fusion ops / Intel. Ces capacités activées par l'IA nous rapprochent de plus en plus de cet environnement. Et cette idée d'image de fonctionnement définie par l'utilisateur est avec nous aujourd'hui. La performance de cela augmentera de façon exponentielle au cours des deux prochaines années.

Intégration continue, développement continu, livraison continue
L'autre chose à propos de l'IA est que vous l'entraînez contre un ensemble de données qui reflètera, dans une certaine mesure, le monde réel. Mais une fois que vous l'avez mis dans le monde réel, vous apprenez qu'il ne fonctionne jamais comme annoncé. La première fois que vous l’utilisez en Afghanistan, vous vous rendez compte que vous ne l’avez jamais entraîné contre des données selon lesquelles des femmes portaient des burkas noires sur toute leur longueur, ils ne savaient pas ce que c’était. Petit problème intéressant. Vous obtenez donc des données du monde réel, vous les réintroduisez dans l'algorithme et il fonctionne de mieux en mieux. Une deuxième, une troisième fois, ainsi de suite, etc. Tout était question de l'utilisateur définissant à quoi ressemblait le succès.

Vous avez besoin d'un cycle d'intégration continue, de développement continu et de livraison continue.

Nous étions fiers au Projet Maven que les premières mises à jour de nos algorithmes initiaux soient sorties dans quatre à cinq mois, puis se soient améliorées de mieux en mieux – dans certains cas environ toutes les deux semaines. Dans notre vie personnelle, nous recevons des mises à jour toutes les heures dans certaines de nos applications. Voilà donc l’objectif. Pour ce faire, vous avez besoin de cette infrastructure et de cette architecture backend, afin qu'un soldat, marin, aviateur, Marine, Space Force, où qu'ils soient, puisse concevoir une application sur place, en s'appuyant sur cette infrastructure backend, que Joint Common Foundation .

Nous ne sommes pas encore près de le faire à quelques exceptions très limitées comme Kessel Run, qui n'est pas de l'IA, bien qu'ils commencent également à s'engager dans cette voie. Mais ils entrent dans ce modèle de: «À quelle vitesse puis-je obtenir cela dans une sorte de chemin logiciel agile pour faire les choses et le pousser sur le terrain le plus rapidement possible?»

Les guerriers doivent être des clients exigeants
Le plus grand rôle des combattants dans ce domaine est d'être des clients très exigeants et de dire ce qui doit être réparé et pas seulement d'accepter ce que nous avons fait aux opérateurs trop souvent, c'est-à-dire: «Regardez, voici le produit, prenez-le ou laissez-le. Nous allons vous proposer une autre version dans cinq ans, et probablement 200 millions de dollars de plus que le budget. "

Ce monde est parti. Nous devons arriver à ce point où: «Le voici. Qu'est ce qui ne va pas avec ça? Nous allons le réparer aussi rapidement que possible et nous le mettrons à jour avec des données du monde réel, cela l'améliorera de plus en plus. " Les clients exigeants fournissent des commentaires impitoyablement francs, ce qui n'a jamais été un problème pour la communauté des opérations spéciales.

Ce concept d’effet de levier et d’UI / UX, et tout cela, est essentiel à tout ce que nous faisons. Et le backend nécessite des choses en plus d'une base commune, une plate-forme de gestion de données, une API ouverte, c'est tous les outils T&E, tout devrait être disponible pour tout le monde dans le ministère de la Défense.

Vous avez besoin d'un perturbateur
Et puis bien sûr, vous avez besoin d'un disrupteur classique. Quelqu'un qui n'accepte pas non pour une réponse, qui brise un petit verre et rend certaines personnes un peu contrariées à l'idée de renverser leur panier de pommes. Parce qu'il y a tant d'obstacles au ministère de la Défense, il serait facile de se désilluser et d'abandonner toute l'entreprise. Le rôle que je devais jouer était la couverture supérieure du perturbateur. C’est la combinaison de ce plaidoyer et de cette pression descendante, et de cette innovation ascendante. Et puis vous apportez un perturbateur qui fait démarrer cette chose.

C'est ce que Raj Shah a fait à DIUX. C’est ce à quoi AFWERX doit faire face. C'est ce à quoi Hondo Geurts a dû faire face lorsqu'il dirigeait SOFWERX. C’est ce qu’enrique Oti a fait à Kessel Run, Chris Lynch au Defence Digital Service. C'étaient des perturbateurs classiques – des personnalités fortes gérant des organisations d'innovation de manière innovante.

Mise à l'échelle des organisations à travers le DOD
Mais maintenant, vous deviez prendre tous ces modèles et commencer à apprendre, comment les mettre à l'échelle au sein du ministère de la Défense? C'est incroyablement difficile. Et c’est pour cela que le JAIC a été conçu, vous suscitez le mouvement pour la prochaine décennie, 15, 20 ans de mouvement.

Mais à moins que vous ne preniez ces modèles d’organisation et que vous commenciez à les mettre à l’échelle du ministère de la Défense, ils sont là comme des organisations ponctuelles. Ils sont critiques mais insuffisants. Vous devez inculquer une culture de démarrage dans la bureaucratie institutionnelle du ministère de la Défense.

L'une des choses les plus importantes sur lesquelles nous travaillions au JAIC est cette chose appelée la Fondation commune commune.

Fondation commune commune
C'est une architecture et une infrastructure – à défaut de terme plus clair, appelez-la une plateforme en tant que service, un environnement DevSecOps ou AI / Ops. En plus d'un environnement Enterprise Cloud qui est censé s'appeler JEDI. Pour créer cet environnement de développement SEC ops, AI ops, qui consiste à donner à tout le monde dans le ministère de la Défense un accès égal à tout, des données aux outils d'IA, à tout l'environnement de sécurité, aux ordinateurs portables Jupyter, vous l'appelez, tout ce dont vous auriez besoin pour développer l'IA. Le JAIC construit cela comme une base commune.

Il y a 200 personnes dans le JAIC, et cela inclut les entrepreneurs, cela ne changera probablement pas tout le ministère de la Défense et sa façon de faire des affaires en matière d'IA. Mais ce qu'il doit faire, c'est en tirer davantage. L'idée de tout ce que fait la JAIC est un produit disponible pour tous les autres membres du ministère de la Défense, ils viennent, le retirent de l'étagère, pour ainsi dire, et l'utilisent pour tirer parti de l'ensemble du ministère de la Défense. Sinon JAIC sera une organisation intéressante et durera quelques années et disparaîtra.

La Fondation commune commune est conçue pour mettre cela à la disposition de tous dans l'ensemble du ministère de la Défense. Et je pense qu'au cours des prochaines années, la Fondation commune commune sera ce pour quoi le JAIC sera connu autant ou plus que tout ce qu'il fait. Les services comprendront l’élément technologique, c’est juste qu’ils ont besoin d’un petit coup de pouce, le volant doit tourner un peu plus vite.

Nouveaux concepts de fonctionnement par rapport à la doctrine
L'idée de développer de nouveaux concepts d'exploitation est encore plus importante que cela. Les nouveaux concepts d'exploitation ne sortent pas du Pentagone. Le Pentagone écrit une grande doctrine. La doctrine, c'est toutes sortes d'instructions et de directives et de superbes diapositives PowerPoint; les concepts opérationnels proviendront de ceux qui sont à la limite tactique ou de l'environnement opérationnel.

Et à quoi ressemble le monde de l'IA, du cloud d'entreprise, de la 5G et un jour quantique? Je ne sais pas, mais ce n’est pas à nous de dire, c’est aux utilisateurs de pouvoir le comprendre, en les laissant essayer dans les paramètres opérationnels. Je crois qu'aucune mission au sein du ministère de la Défense ne bénéficiera – de l'introduction de capacités basées sur l'IA depuis le back-office, sur le champ de bataille, du sous-marin à l'espace extra-atmosphérique, dans le cyberespace et tous les points intermédiaires.

Lisez la transcription complète du discours du général Shanahan ici et regardez la vidéo ci-dessous.

Si vous ne pouvez pas voir la vidéo de la conférence du général Shanahan, cliquez ici

Leçons apprises

  • Le DOD a reconnu que l'IA était l'un des facteurs de changement potentiels
    • Ils ont mis en place le JAIC (Joint Artificial Intelligence Center) pour voir s'ils pouvaient tirer parti de l'IA à travers le DOD
  • Ils ont construit des produits en utilisant des processus modernes – intégration continue, développement continu et livraison continue
  • Le groupe avait besoin d'un «perturbateur», quelqu'un prêt à briser le verre pour pousser ces idées
  • Au fil du temps, JAIC a réalisé que la mise à l'échelle de l'IA à travers le DOD ne proviendrait pas de la fourniture de solutions individuelles
    • mais en ayant une Joint Common AI Foundation accessible à tous les développeurs d'applications DOD

Classé sous: Innovation technologique et guerre moderne |

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *