Apprendre à l’IA à se comporter est la compétence professionnelle qui connaît la croissance la plus rapide

Quelle est l’importance de l’ingénierie rapide parmi les compétences informatiques ?

Si important qu’Erick Brethenoux, professeur adjoint à l’Institut de technologie de l’Illinois, a déclaré que tous ses étudiants avaient mis des compétences en ingénierie rapide de l’intelligence artificielle (IA) sur leur CV et leur profil LinkedIn. Ils savent que c’est ce que veulent désormais les entreprises.

«C’est critique. L’ingénierie rapide est une partie très importante de ce qui s’en vient, non seulement pour OpenAI, Google, Amazon et Microsoft, mais aussi pour tous les modèles open source », a déclaré Brethenoux. “Ils vont entrer sur le marché du travail et ils doivent maîtriser cette technologie d’une manière ou d’une autre.”

Cette preuve anecdotique est reprise par les données de LinkedIn, qui montrent une forte augmentation de la demande d’ingénierie rapide, avec plus de 10 000 offres d’emploi la mentionnant pour divers postes – et environ 100 recherchant explicitement un « ingénieur rapide ».

Selon LinkedIn, la part des offres d’emploi mentionnant « GPT » ou « ChatGPT » a également été multipliée par près de six (599 %) entre mai 2022 et mai 2023. Le nombre de membres de LinkedIn qui ont, ou ont occupé, « responsable de l’IA » ” les postes ont presque triplé au cours des cinq dernières années.

Les spécialistes de l’IA et de l’apprentissage automatique arrivent en tête de liste des emplois à croissance rapide, suivis par les spécialistes du développement durable, les analystes de la Business Intelligence et les analystes de la sécurité de l’information, ainsi que les ingénieurs en énergies renouvelables, selon une enquête du Forum économique mondial.

Les ingénieurs Prompt peuvent gagner un salaire intéressant à six chiffres, jusqu’à 335 000 $ par an. En effet, une ingénierie rapide est nécessaire pour améliorer l’interaction homme-machine avec les outils genAI ; l’apprentissage de la technologie fondamentale – les grands modèles de langage (LLM) – fournit les meilleures réponses possibles aux requêtes.

Le besoin d’ingénieurs rapides qualifiés augmente rapidement – ​​à mesure que « les applications GenAI sont envisagées et testées », selon Avivah Litan, vice-présidente et analyste distinguée chez Gartner Research.

« Nous pensons qu’il est important que les entreprises forment leurs développeurs et ingénieurs logiciels existants aux nouvelles techniques d’ingénierie rapide », a-t-elle déclaré. « Il n’est pas facile d’obtenir de bons résultats avec les modèles genAI à moins d’être compétent en matière de préparation des données et de flux de processus. pour inciter efficacement les modèles.

“Mais vous n’avez pas besoin d’embaucher du nouveau personnel pour cela : vous n’avez probablement besoin que d’une poignée d’ingénieurs spécialisés pour relancer le processus de développement et aider à former d’autres ingénieurs et développeurs motivés et compétents déjà dans votre organisation.”

Alors que toutes les universités du monde finiront par former des ingénieurs, des développeurs et d’autres personnes à l’ingénierie rapide, Brethenoux, qui est également un éminent vice-président analyste chez Gartner, convient que les organisations devraient aujourd’hui se concentrer sur le perfectionnement des employés existants. « Les gens que vous avez déjà ont une expérience dans le domaine », a-t-il déclaré. « Vous avez déjà des experts en technologie là-bas. Il y a des gens qui travaillent ensemble et qui connaissent déjà vos problèmes commerciaux. »

À l’heure actuelle, les plateformes d’apprentissage en ligne telles que Udemy, Coursera et Code Academy sont les meilleurs endroits où se tourner pour perfectionner ou recycler les compétences des employés, a déclaré Brethenoux.

Au cours des cinq derniers mois, Coursera a lancé quatre cours sur le sujet et y a inscrit plus de 170 000 étudiants, selon un porte-parole. Les programmes de Coursera incluent Prompt Engineering pour ChatGPT de l’Université Vanderbilt ; Ingénierie d’invite ChatGPT pour les développeurs de DeepLearning.AI ; Ingénierie rapide pour les développeurs Web de Scrimba ; et AI Foundations : Prompt Engineering avec ChatGPT de l’Arizona State University.

L’intérêt pour le sujet est si intense, en fait, que le créateur de ChatGPT, OpenAI, et le célèbre scientifique en IA Andrew Ng, cofondateur et directeur de Google Brain, ont également lancé un cours appelé ChatGPT Prompt Engineering for Developers.

Et dans le monde des affaires, des entreprises telles que EY, NTT DATA, Datasumi et eDreams ont déjà créé des titres de postes d’ingénieurs rapides, selon Forbes.

Kim Curley, vice-président des ressources humaines et de l’organisation chez NTT DATA, a déclaré que son entreprise a toujours créé de nouveaux emplois en réponse aux technologies perturbatrices, et que le poste d’ingénieur rapide leur permettra de tirer parti des technologies émergentes, en particulier dans le domaine de l’IA.

“Comme nous l’avons tous constaté, il existe une grande variété dans la qualité des résultats de l’IA, et cette qualité a beaucoup à voir avec la manière dont nous posons les questions auxquelles nous cherchons des réponses”, a déclaré Curley. « Les ingénieurs Prompt doivent comprendre non seulement les données sous-jacentes qu’ils interrogent, mais également le contexte de la réponse dont ils ont besoin. Il s’agit d’un travail brûlant et qui gagnera en importance à mesure que de plus en plus d’organisations seront capables d’utiliser l’IA.

Améliorer les compétences d’un employé existant, a déclaré Curley, est également la voie à suivre lors de la création du poste d’ingénieur rapide.

“La nécessité de comprendre le contexte de la question et de la réponse donne aux personnes qui travaillent déjà avec vos données et dans votre entreprise une longueur d’avance pour réussir, d’autant plus que l’IA a encore du chemin à parcourir en termes de qualité constante”, a déclaré Curley. “Cela dit, nous constatons que ces compétences commencent désormais à être enseignées dans les filières éducatives traditionnelles, alors attendez-vous à ce que ce rôle s’étende aux nouvelles recrues qui sont plus tôt dans leur carrière.”

Alors, que sont les LLM et pourquoi ont-ils besoin d’une formation ?

Les LLM sont des algorithmes d’apprentissage en profondeur (réseaux de neurones) caractérisés le plus souvent par leurs énormes réserves d’informations. Les LLM peuvent avoir des millions, des milliards, voire des milliards de paramètres ou de variables. Essentiellement, les LLM sont des générateurs de mots suivants, et les former à choisir la réponse la plus appropriée pour une requête donnée est le travail d’un ingénieur rapide.

“Considérez-le comme le processus d’interaction avec une machine pour qu’elle produise les résultats que vous souhaitez”, a déclaré Sameer Maskey, professeur d’IA à l’Université de Columbia et PDG de Fusemachines, un cabinet de conseil en IA.

Alors que la plupart des LLM tels que GPT-4 d’OpenAI, LaMDA de Google ou Bart de Hugging Face sont pré-remplis avec d’énormes quantités d’informations, l’ingénierie rapide permet d’adapter les outils genAI à un secteur spécifique ou même à une utilisation organisationnelle.

Au fil du temps, les LLM massifs et amorphes tels que GPT-4 devraient céder la place à des modèles plus petits, moins gourmands en calcul et plus spécifiques à un domaine, permettant à des LLM plus compacts de gagner du terrain dans un certain nombre d’industries verticales. Lorsque cela se produira, une ingénierie rapide deviendra encore plus critique.

“L’un des principaux domaines d’intérêt du point de vue de la recherche est de savoir comment obtenir une précision similaire à partir d’un LLM sans avoir à utiliser des millions, des milliards, voire des milliards de paramètres”, a déclaré Maskey. “Le GPT ne va pas disparaître, mais en fin de compte, il pourrait devenir plus petit.”

Au sens le plus élémentaire, l’ingénierie rapide, ou la conception de questions ou de tâches pour l’IA, nécessite cinq considérations « de haut niveau », selon Maskey.

• Contexte — Fournir au moteur d’IA une sphère spécifique de tâches verticales, telles que les services financiers, la santé ou la fabrication.
• Donnez-lui la tâche elle-même — Par exemple, demandez-lui de renvoyer une liste de toutes les zones géographiques où le diabète est présent chez 20 % ou plus de la population.
• Spécificité — Limitez la portée des réponses. Demandez à l’outil d’IA de créer une liste plutôt qu’une image, par exemple.
• Processus de mise au point — Demandez à l’IA de développer ses réponses pour déterminer l’exactitude.
• Réajustement — Si les réponses ne sont pas bonnes, demandez-lui plus d’informations ou développez-le encore davantage.

Les invites peuvent être multimodales. Par exemple, vous pouvez rédiger une invite pour obtenir du texte sur une image dans un cadre en deux étapes. Dans ce scénario, une ingénierie rapide pourrait être utilisée pour obtenir des informations sur les images radiologiques ; un ingénieur rapide saisit les images radiologiques et le moteur d’IA les analyse pour montrer les conditions aiguës qui nécessitent une analyse plus approfondie par les radiologues et les médecins.

“En fonction de ce que vous saisissez, il peut s’agir d’une fenêtre textuelle, d’une plate-forme de codage dans laquelle vous utilisez des extraits de code comme invites”, a déclaré Maskey. “Vous pouvez télécharger des images ou des vidéos, etc.”

L’un des avantages de genAI est son accessibilité aux employés non techniques, c’est-à-dire que les employés n’ont pas nécessairement besoin de compétences en codage, a déclaré Maskey.

« Par exemple, si vous souhaitez créer un modèle de régression linéaire sur votre système ou une sorte d’analyse statistique sur un ensemble de données donné, auparavant, les hommes d’affaires ne le pouvaient pas, car ils ne connaissaient pas Python, par exemple. Il existe de nombreux cas où les non-ingénieurs tireraient de nombreux avantages de la possibilité d’effectuer des analyses statistiques sur des ensembles de données. Maintenant, ils le peuvent.

Selon Maskey, l’ingénierie rapide s’apparentera un jour à l’apprentissage de l’utilisation d’une feuille de calcul Excel, qui est aujourd’hui utile dans de nombreuses unités commerciales ou départements.

Litan de Gartner estime que l’ingénierie rapide sera éventuellement intégrée aux filières de carrière en ingénierie d’applications et en développeurs de logiciels. « Ce sera une compétence requise pour l’avenir, mais ce ne sera pas une carrière distincte », a-t-elle déclaré.

Les fournisseurs de cloud devraient également lancer des services d’ingénierie rapide, selon un nouveau rapport de Forrester Research.

“En 2024, tous les hyperscalers annonceront une ingénierie rapide”, a déclaré Forrester. “Cependant, l’adoption par les entreprises sera limitée. En raison de données contextuelles incomplètes et d’une expérience limitée en langage naturel et en ingénierie rapide parmi les data scientists, les services d’ingénierie rapide de première génération du fournisseur de cloud ne suffiront pas à répondre aux besoins de réglage précis.

Même ainsi, à ce stade, développer des compétences en ingénierie rapide consiste essentiellement à « apprendre par la pratique, car il n’existe pas de livre sur l’ingénierie rapide », a déclaré Brethenoux. « Quel type d’expertise avons-nous en seulement neuf mois d’expérience ? [with genAI tools]?” il a dit. « L’essentiel est donc de créer un programme d’initiation à l’IA au sein d’une organisation, puis de commencer à perfectionner les compétences des personnes. »