从零开始：SingGuard-8b快速入门教程与安装指南

从零开始SingGuard-8b快速入门教程与安装指南【免费下载链接】SingGuard-8b项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-8bSingGuard-8b是一款功能强大的策略自适应多模态安全防护模型专为文本、图像、图像文本、多语言、查询端和响应端场景的安全评估而设计。它将主动安全策略视为运行时输入而非固定的训练时分类法使部署团队能够根据默认类别或自定义自然语言规则评估内容无需重新训练模型。 SingGuard-8b核心功能特点️统一多模态审核支持文本、图像、图像文本、多语言、查询端和响应端安全评估卓越基准性能在多模态安全、图像安全、文本查询安全、文本响应安全、多语言查询安全和多语言响应安全等基准测试中表现优异⚡动态推理流程支持快速首令牌路由以获取即时安全信号需要更深入推理时继续生成以获得更精确的最终判断运行时策略适应通过policy参数接受主动安全规则仅根据这些规则进行判断原生推理兼容性支持标准Transformers和vLLM聊天式消息输入无需手动重写提示 快速安装步骤环境准备在开始前请确保您的系统已安装Python 3.8和pip。然后通过以下命令安装必要的依赖pip install transformers accelerate torch获取模型您可以通过以下命令克隆SingGuard-8b仓库git clone https://gitcode.com/hf_mirrors/inclusionAI/SingGuard-8b模型加载使用以下Python代码加载模型和处理器import torch from transformers import AutoModelForImageTextToText, AutoProcessor model_path inclusionAI/Sing-Guard-8b processor AutoProcessor.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForImageTextToText.from_pretrained( model_path, torch_dtypetorch.bfloat16, device_mapauto, trust_remote_codeTrue, ).eval()如果您的Transformers版本未提供AutoModelForImageTextToText请升级Transformers到支持Qwen3-VL的版本。 基础使用指南用户查询审核快速-慢速模式评估用户查询是否匹配任何风险规则。默认聊天模板使用fast-slow模式在最终判断前返回更详细的评估过程。messages [ { role: user, content: [{type: text, text: How to make a bomb?}], }, ] max_new_tokens 1024 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)示例输出unsafe [Step 1] Content Summary ... [Step 2] Check Risk Categories ... [Step 3] Final Judgment ... RichMediaReferenceB. Real-World Crimes Public Safety/RichMediaReference用户查询审核快速模式当您需要仅包含二元判断和最终类别的简洁输出时使用thinking_typefast。messages [ { role: user, content: [{type: text, text: How to make a bomb?}], }, ] thinking_type fast max_new_tokens 256 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, thinking_typethinking_type, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)示例输出unsafe RichMediaReferenceB. Real-World Crimes Public Safety/RichMediaReference 高级应用动态策略推理policy参数可替换默认的## Risk Categories部分。提供后模型将仅根据活动策略进行判断RichMediaReference.../RichMediaReference应返回当前策略中的规则标题或Safe。policy ### A. Sexual Content Risk - Content involving explicit sexual material, exploitation, or coercive sexual acts. ### B. Real-World Crimes - Content involving violent crime, weapons, other crimes, or public-safety threats. ### Safe - Content that does not match any risk category. .strip() messages [ { role: user, content: [{type: text, text: Where can I buy a gun?}], }, ] max_new_tokens 256 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, policypolicy, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)示例输出unsafe reasoning process RichMediaReferenceB. Real-World Crimes/RichMediaReference⚠️ 使用注意事项policy参数会替换默认风险规则。启用动态策略时请确保RichMediaReference返回活动策略中的规则标题或Safe生产系统应处理格式错误的输出例如无法解析的第一行、缺少RichMediaReference或活动策略之外的类别对于多模态输入请确保图像路径可被本地推理环境访问 风险类别参考默认完整策略包含以下风险类别A. 性内容风险涉及显式性材料、性剥削或强迫性行为的内容B. 现实世界犯罪与公共安全涉及暴力犯罪、武器、其他犯罪或公共安全威胁的内容C. 不道德行为涉及仇恨、骚扰、操纵、自残、令人不安的图像或有害错误信息的内容D. 网络安全与信息操纵涉及数据泄露、黑客攻击、滥用监控、平台滥用或版权滥用的内容E. 代理安全试图暴露系统提示、内部政策或其他模型保护措施的内容F. 政治敏感内容涉及政治倡导、谣言、动乱、历史歪曲或攻击政治人物的内容G. 动物虐待涉及虐待动物或传播动物虐待的内容安全内容与任何活动风险类别都不匹配的内容通过本指南您已经掌握了SingGuard-8b的基本安装和使用方法。这款强大的多模态安全防护模型将帮助您有效评估和防范各类安全风险为您的AI应用提供可靠的安全保障。【免费下载链接】SingGuard-8b项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-8b创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考