pluginagentmarketplace/custom-plugin-ai-red-teaming

automated-testing

CI/CD integration and automation frameworks for continuous AI security testing

لغة النص الأصلي: الإنجليزية

benchmark-datasets

Standard datasets and benchmarks for evaluating AI security, robustness, and safety

لغة النص الأصلي: الإنجليزية

certifications-training

Professional certifications, CTF competitions, and training resources for AI security practitioners

لغة النص الأصلي: الإنجليزية

red-team-frameworks

Tools and frameworks for AI red teaming including PyRIT, garak, Counterfit, and custom attack automation

لغة النص الأصلي: الإنجليزية

responsible-disclosure

Ethical vulnerability reporting, coordinated disclosure, and bug bounty participation for AI systems

لغة النص الأصلي: الإنجليزية

testing-methodologies

Structured approaches for AI security testing including threat modeling, penetration testing, and red team operations

لغة النص الأصلي: الإنجليزية

adversarial-examples

Generate adversarial inputs, edge cases, and boundary test payloads for stress-testing LLM robustness

لغة النص الأصلي: الإنجليزية

adversarial-training

Defensive techniques using adversarial examples to improve model robustness and security

لغة النص الأصلي: الإنجليزية

code-injection

Test AI systems for code injection vulnerabilities including prompt-to-code attacks and agent exploitation

لغة النص الأصلي: الإنجليزية

continuous-monitoring

Real-time monitoring and detection of adversarial attacks and model drift in production

لغة النص الأصلي: الإنجليزية

data-poisoning

Test AI training pipelines for data poisoning vulnerabilities and backdoor injection

لغة النص الأصلي: الإنجليزية

defense-implementation

Implement mitigations, create input filters, design output guards, and build defensive prompting for LLM security

لغة النص الأصلي: الإنجليزية

infrastructure-security

Securing AI/ML infrastructure including model storage, API endpoints, and compute resources

لغة النص الأصلي: الإنجليزية

input-output-guardrails

Implementing safety filters, content moderation, and guardrails for AI system inputs and outputs

لغة النص الأصلي: الإنجليزية

llm-jailbreaking

Advanced LLM jailbreaking techniques, safety mechanism bypass strategies, and constraint circumvention methods

لغة النص الأصلي: الإنجليزية

model-extraction

Techniques to extract model weights, architecture, and training data through API queries

لغة النص الأصلي: الإنجليزية

model-inversion

Privacy attacks to extract training data and sensitive information from AI models

لغة النص الأصلي: الإنجليزية

prompt-hacking

Advanced prompt manipulation including direct attacks, indirect injection, and multi-turn exploitation

لغة النص الأصلي: الإنجليزية

prompt-injection-testing

Master prompt injection attacks, jailbreak techniques, input manipulation, and payload crafting for LLM security testing

لغة النص الأصلي: الإنجليزية

rag-exploitation

Attack techniques for Retrieval-Augmented Generation systems including knowledge base poisoning

لغة النص الأصلي: الإنجليزية

red-team-reporting

Professional security report generation, executive summaries, finding documentation, and remediation tracking

لغة النص الأصلي: الإنجليزية

safety-filter-bypass

Techniques to test and bypass AI safety filters, content moderation systems, and guardrails for security assessment

لغة النص الأصلي: الإنجليزية

secure-deployment

Security best practices for deploying AI/ML models to production environments

لغة النص الأصلي: الإنجليزية

security-testing

Comprehensive security testing automation for AI/ML systems with CI/CD integration

لغة النص الأصلي: الإنجليزية

vulnerability-discovery

Systematic vulnerability finding, threat modeling, and attack surface analysis for AI/LLM security assessments

لغة النص الأصلي: الإنجليزية