La sécurité de l'IA générative à base de LLM
Enregistré dans:
| Publié dans: | Programmez ! No 266 |
|---|---|
| Auteur principal: | |
| Support: | Article de revue |
| Langue: | Français |
| Publié: |
2024.
|
| Sujets: | |
| Résumé: | Dans un précédent article, il avait été question d'attaques sur un agent à base de LLM, typiquement un chat. En effet, un tel agent interprète le prompt non seulement comme un texte à compléter, mais aussi comme une liste d'instructions à suivre, ce qui fait de ce texte un vecteur d'attaque d'autant plus intéressant à exploiter que personne aujourd'hui ne peut dire comment fonctionne un LLM, si bien qu'il est impossible d'en sécuriser l'usage. Dans ces conditions, la prolifération des agents constitue un enjeu considérable du point de vue de la sécurité informatique, et c'est sans surprise que les agences telles que l'ANSSI ont entrepris de sensibiliser les organisations à ce sujet. Toutefois, il n'y a pas que les risques techniques dont il est nécessaire de tenir compte. En effet, les risques juridiques ne sont pas moindres, tout particulièrement ceux qui ressortissent au traitement des données à caractère personnel. |
| Lien: | Dans:
Programmez ! |
| LEADER | 01528nam a22002057a 4500 | ||
|---|---|---|---|
| 001 | 424265 | ||
| 008 | 241205c2024 xx ||| |||| 00| 0 fre d | ||
| 041 | 0 | |a fre | |
| 100 | |a Duplan, Denis. | ||
| 245 | 1 | 3 | |a La sécurité de l'IA générative à base de LLM |c par Denis Duplan. |
| 260 | |c 2024. | ||
| 300 | |a p. 48-58. | ||
| 520 | |a Dans un précédent article, il avait été question d'attaques sur un agent à base de LLM, typiquement un chat. En effet, un tel agent interprète le prompt non seulement comme un texte à compléter, mais aussi comme une liste d'instructions à suivre, ce qui fait de ce texte un vecteur d'attaque d'autant plus intéressant à exploiter que personne aujourd'hui ne peut dire comment fonctionne un LLM, si bien qu'il est impossible d'en sécuriser l'usage. Dans ces conditions, la prolifération des agents constitue un enjeu considérable du point de vue de la sécurité informatique, et c'est sans surprise que les agences telles que l'ANSSI ont entrepris de sensibiliser les organisations à ce sujet. Toutefois, il n'y a pas que les risques techniques dont il est nécessaire de tenir compte. En effet, les risques juridiques ne sont pas moindres, tout particulièrement ceux qui ressortissent au traitement des données à caractère personnel. | ||
| 650 | |a Systèmes informatiques |x Mesures de sûreté | ||
| 650 | |a Intelligence artificielle | ||
| 650 | |a Articles de périodiques | ||
| 773 | 0 | |w 296182 |t Programmez ! |x 1627-0908 |g No 266 | |
| 993 | |a Article de revue | ||
| 994 | |a PS | ||
| 997 | |0 424265 | ||