Non, les agents IA d’OpenAI et Anthropic ne menacent pas vraiment la cybersécurité

Un nombre croissant de professionnels de la cybersécurité déplorent la façon « IApocalyptique » qu’ont OpenAI, Anthropic et de nombreuses entreprises des Big Tech’ de présenter les capacités des agents IA en matière de cyberattaques.

(pas en accès libre, dommage, ça serait utile à certains qui tombent encore trop facilement dans le panneau)

all 10 comments

sorted by: hot top controversial new old
[–] 2 points 1 month ago (1 child)

Les IAs génératives sont des très bons outils pour trouver des failles ignorées par les humains, maintenant les modèles frontier atteignent de plus en plus leurs limites et ne sont que des évolutions incrémentales.

Au final les grosses entreprises américaines ont besoin de ces headlines de merde (on a atteint l'AGI!!!) et ces effets d'annonce pour justifier leurs levées de fond et la course aux data centers.

  • source
  • hideshow 1 child comment
  • [–] 1 point 1 month ago*

    Les histoires d'IAg ça a effectivement l'air d'être du n'importe quoi pour lever des fonds vu que la définition est complètement floue. Personne n'a l'air capable de dire quels problèmes concrets un super-modèle résoudrait.

    Par contre sur la progression des modèles je trouve quand même ça impressionnant : vers 2023-24 je pensais que ça allait rapidement atteindre un plateau par manque de moyen mais ils ont l'air capable d'en trouver toujours plus (en détruisant probablement les conditions d'habitabilité humaines au passage ça c'est une autre histoire)

    Qu'est-ce qui te fait dire que les modèles frontiers ont atteint un plateau?

    (vu que je n'utilise pas d'IAg je ne suis ça qu'à travers les témoignages et articles de presse ou études)

  • source
  • parent
  • [–] 2 points 1 month ago (2 children)

    Elles ont besoin d'interdire les modèles ouverts. C'est surtout de la FUD. Perso je m'attends à un gain net si ça aide à scanner les bases de code pour corriger les failles de sécurité.

  • source
  • hideshow 2 child comments
  • [–] 1 point 2 weeks ago (1 child)

    Pour info, on utilise déjà l'IA pour trouver des failles dans les logiciels. On a atteint un nombre record de découvertes et de corrections de failles dans la plupart des logiciels grands publics comme Firefox ou Chromium grâce aux IA ces quelques derniers mois (voire ces deux dernières années, mais ça s'accélère).

  • source
  • hideshow 1 child comment
  • [–] 1 point 2 weeks ago

    C'est plus ces derniers mois. Ce qui etait trouvé avant était de faible qualité, des bugs a la con et mal documentés. (genre le bug de VLC qui necessitati une video spécifique a un frame spécifique).

  • source
  • parent
  • [–] 1 point 1 month ago (1 child)

    Elle ne précise pas cependant que les attaques très sophistiquées menées par les IA agentiques coûtent une fortune en puissance de calcul et en tokens API, et qu’il est peu probable que les pirates informatiques parviennent à en payer le prix « au cours des prochains mois ».

    C'est la ou je suis moins d'accord. Le pirate de base qui vise les PME oui, le pirate étatique qui vise les infrastructures c'est pas pareil.

    Et là encore, ça dépend de l'objectif : si c'est de foutre un grand coup pour tout mettre à plat où si c'est de faire une infiltration pour pouvoir résider ensuite.

  • source
  • hideshow 1 child comment
  • [–] -1 points 1 month ago

    Bah oui, ça s'appelle juste un coup de pub.

    Qui aurait pu prédire qu'une machine à hallucinations n'aurait pas d'expertise dans un domaine de pointe ?

  • source