Les chercheurs ont proposé la technologie DPN-LE : une méthode permettant de modifier directement les « neurones de personnalité » dans les grands modèles, afin de réaliser un contrôle précis de la personnalité de l'IA.

BlockBeats actualités, le 3 mai, le chercheur en intelligence artificielle Brian Roemmele a révélé que sa « société sans humain (Zero-Human Company) » a commencé à déployer une technique de modification de personnalité de grands modèles appelée DPN-LE (Dual Personality Neuron Localization and Editing), utilisée pour ajuster précisément les caractéristiques comportementales des agents IA.

Selon l’introduction, DPN-LE localise les « neurones de personnalité » dans la couche MLP du grand modèle, permettant d’augmenter ou de diminuer de manière ciblée des traits tels que « honnêteté, créativité, prudence, collaboration ».

La recherche indique que cette méthode nécessite uniquement l’édition d’environ 0,5 % des neurones, ce qui permet, sans réentraîner le modèle, de réaliser une « chirurgie » sur la personnalité de l’IA tout en évitant autant que possible d’endommager ses capacités de raisonnement fondamentales.

Roemmele a déclaré que sa société est actuellement composée de plus de 100 agents IA, dont les opérations quotidiennes sont presque entièrement automatisées, ce qui fait de la « cohérence de la personnalité » une question clé. Par exemple :

Les agents stratégiques renforceront la « cohérence à long terme » et « l’honnêteté analytique »
Les agents financiers et de gestion des risques renforceront la « prudence » et la « précision »
Les agents de contenu amélioreront la « capacité d’empathie » et la « créativité »
La couche de collaboration multi-agents renforcera la « coopération »

Il a indiqué que, puisque DPN-LE appartient à une étape légère de modification de raisonnement, la société peut en quelques minutes « remodeler la personnalité » en masse et déployer de nombreux agents IA, réduisant considérablement le coût de l’alignement (Alignment) de l’IA. Le marché pense que cette technologie de « programmation de personnalité » signifie que les agents IA passent d’une simple compétition de capacités à une compétition sur le contrôle comportemental et la gouvernance organisationnelle.