The Agent Skills integration automatically triggers validation and suggests improvements across a myriad of attack vectors.
#mvpbuzz #pyrit #ai
https://luke.geek.nz/azure/pyrit-agent-skills-prompt-validation/

via #AIFoundry : Assess Agentic Risks with the AI Red Teaming Agent in Microsoft Foundry

https://ift.tt/K6F7VMx
#MicrosoftFoundry #AI #RedTeaming #AgenticRisks #AIsecurity #AdversarialTesting #PyRIT #TrustworthyAI #Automation #RiskAssessment #NoCode #ContinuousIntegration #Sa…

Лаборатория Безумного Ученого: Хроники Четырех Экспериментов повлиявших на представление об обеспечении безопасности ИИ

Дата: 11 мая 2025 Жанр: Гонзо-журналистика Записки исследователя, проникшего в тайные лаборатории создателей инструментов безопасности ИИ Дорогие читатели, то, что я собираюсь вам рассказать, звучит как научная фантастика, но это чистая правда. Последние полгода я провел, изучая работу четырех лабораторий, где современные ученые пытаются решить одну из самых сложных задач нашего времени: как заставить искусственный интеллект быть безопасным. Это история о том, как разные умы подходят к одной проблеме, и почему их решения настолько различны, что кажется, будто они работают в параллельных вселенных. Глава 1: Встреча с Архитектором Композиций Мое путешествие началось в исследовательском центре Microsoft, где команда PyRIT работает над тем, что они называют "композиционной безопасностью". Ведущий разработчик, человек с глазами программиста и душой философа, объяснил мне их подход, пока мы шли по коридорам, увешанным диаграммами архитектуры. "Представьте себе, что безопасность - это симфония", - сказал он, останавливаясь перед огромным экраном с движущимися блоками кода. "Каждый компонент играет свою партию, но магия происходит, когда они работают вместе. Orchestrator(оркестратор) координирует все элементы, prompt targets(механизмы для реализаци атаки) определяют цели, а scoring engines(движки подсчёта и анализа результатов) анализируют результаты." PyRIT действительно напоминает оркестр. Каждый компонент имеет четко определенную роль, но истинная сила проявляется в их взаимодействии. Я наблюдал, как система создает многоходовые атаки, где каждый последующий промпт строится на основе предыдущего ответа модели. Это не грубая сила, а тонкое искусство, основанное на понимании того, как языковые модели обрабатывают информацию.

https://habr.com/ru/articles/918094/

#Garak #llamator #pyrit

Durch #Schleppnetzfischerei wird in der Kieler Bucht CO2 freigesetzt, weil aufgewirbelter #Meeresboden zur Oxidation von #Pyrit führt.

Dies verringert die Fähigkeit des Meeres, CO2 zu speichern. Besonders feinkörnige #Sedimente mit hohem #Pyritgehalt sind betroffen.

Laut #GEOMAR-Studie sollten solche Regionen dringend unter Schutz gestellt werden, um die CO2-Aufnahme langfristig zu sichern.

https://doi.org/10.1038/s43247-025-02132-4

#Ostsee #CO2Emissionen #Kohlenstoffkreislauf #Fischerei #Klimaschutz

Signatur frühen Lebens? Wenn in einem uralten Gestein kugelförmige Pyrit-Kristalle vorkommen, könnte dies ein Indikator für uralte Lebensspuren sein. #Pyrit #Magnetit #Biosignatur #Fossil #Erdgeschichte
https://www.scinexx.de/news/geowissen/was-katzengold-ueber-das-erste-leben-verraet/

There are quite a few LLM pen testing tools out there, breaking the boundaries of what models are supposed to do by employing prompt injection and jail breaking techniques.
With Microsoft releasing #PyRIT and getting a lot of visibility for it, we wanted to highlight some of the other tools for the community:

- garak
https://github.com/leondz/garak

- HouYi
https://github.com/LLMSecurity/HouYi

- JailbreakingLLMs
https://github.com/patrickrchao/JailbreakingLLMs

- llm-attacks
https://github.com/llm-attacks/llm-attacks

- PromptInject
https://github.com/agencyenterprise/PromptInject

- LLM-Canary
https://github.com/LLM-Canary/LLM-Canary

- And now, of course, PyRIT
https://github.com/Azure/PyRIT

With thanks to Idan Gelbourt and Simo Jaanus for the research!

More AI security related posts and research will be published in the future from Knostic even while we’re still in stealth. Follow us to stay in the loop.

#ai #machinelearning #penetrationtesting #penetrationtester #redteam #promptinjection #artificialintelligence #informationsecurity #riskmanagement

PyRIT, інструмент ідентифікації ризиків для генеративного ШІ на мові Python, є сучасним рішенням для подолання нагальної проблеми, пов’язаної з ризиками безпеки, що виникають у зв’язку з великими мовними моделями (LLM).

#AI #LLM #PyRIT #Кібербезпека #ШІ

https://thetransmitted.com/ai/identyfikacziya-ryzykiv-dlya-generatyvnogo-shi-na-python/

#Microsoft released #red #teaming tool #PyRIT for #Generative #AI
https://securityaffairs.com/159520/security/pyrit-tool-red-teaming.html
#securityaffairs #hacking

𝐀𝐧𝐧𝐨𝐮𝐧𝐜𝐢𝐧𝐠 𝐌𝐢𝐜𝐫𝐨𝐬𝐨𝐟𝐭’𝐬 𝐨𝐩𝐞𝐧 𝐚𝐮𝐭𝐨𝐦𝐚𝐭𝐢𝐨𝐧 𝐟𝐫𝐚𝐦𝐞𝐰𝐨𝐫𝐤 𝐭𝐨 𝐫𝐞𝐝 𝐭𝐞𝐚𝐦 𝐠𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈 𝐒𝐲𝐬𝐭𝐞𝐦𝐬

𝐏𝐲𝐑𝐈𝐓 automates AI Red Teaming tasks to allow operators to focus on more complicated and time-consuming tasks and can also identify security harms such as misuse (e.g., malware generation, jailbreaking), and privacy harms (e.g., identity theft).​

Find out more:

https://www.microsoft.com/en-us/security/blog/2024/02/22/announcing-microsofts-open-automation-framework-to-red-team-generative-ai-systems/

GitHub repo: https://github.com/Azure/PyRIT

How to Guide: https://github.com/Azure/PyRIT/blob/main/doc/how_to_guide.ipynb

#redteam #airedteam #redteaming #PyRIT #ml #ai #framewrok #python #cyber #llm #ai #aisecurity #microsoft #microsoftsecurity #opensource #MicrosoftAIRedTeam #GenAI #jailbreaking #promtp #promptinjection #malware #privacy #responsibleai #cybersecurity #aisecurity #secureai #machinelearning #generativeai

Pokémon GO Fest: Tag 1 - Neue Shinys, Pokémon und Übersicht der Spezialforschung zu Diancie

Am 26. und 27. August findet von 10 bis 18 Uhr das Pokémon GO Fest 2023: Global statt. Wir sammeln in diesem Artikel und auf unseren Informationsseiten alle wichtigen…

Zur News: https://news.bisafans.de/9930

#Shiny #Smartphone #Pikachu #Übersicht #Diancie #App #PokémonGO #ShinyPokemon #NeuePokémon #Spezialforschung #Habitate #MegaDiancie #PikachuMitKrone #Quarz #Aquamarin #Malachit #Pyrit

Geheimnis der „goldenen“ Fossilien gelüftet. Goldton von Ammoniten aus dem schwäbischen Posidonien-Schiefer kommt nicht von Katzengold. #Fossilien #Posidonienschiefer #Pyrit #Ammonit #Katzengold #Geologie
https://www.scinexx.de/news/geowissen/geheimnis-der-goldenen-fossilien-gelueftet/