TrafficGPT:用大语言模型做开放集加密流量分类

即使流量被加密,攻击者仍可通过包大小、方向、时序等统计特征推断用户在访问什么内容。发表于 AINTEC 2024 的论文《TrafficGPT》提出用 GPT-2 提取流量特征,提升这类攻击在更真实的开放集场景下的表现。问题以往方法多假设闭集:训练时见过的类别就是全部类别。但现实中,系统往往只需识别少数目标类别(如若干被封禁网站),其余流量都应被判定为不属于目标集合并放行。以往应对这种开放集问题的方式——训练背景类或设置置信度阈值——都存在明显缺陷:背景类样本无法覆盖未来所有未知情况,而深度模型即使判断错误也常表现出高置信度,阈值并不可靠。方法:核心概念关键想法是:加密流量本质是时序数据,LLM擅长通过自注意力机制理解序列上下文,因此可以用GPT-2替代传统CNN/编码器来提取更丰富的流量特征。TrafficGPT 包含三步:数据预处理:GPT-2分词器是为文本设计的,直接输入数值会导致相近数值被切分成完全不同token。解决办法是在每个数字间插入空格,强制逐位分词,同时针对不同数据集设计专门的数值编码方案。GPT-2特征提取:在目标数据集上微调GPT-2-small(2-6轮),取softmax层之前的输出作为特征向量。开放集分类:在此特征上测试OpenMax、背景类、k-LND等分类器,判断样本是否属于目标类别。结果与优势在五个公开加密流量数据集上:相比编码器模型ET-BERT,平均提升12.7%(25组对比中21组占优);相比CNN特征提取器,平均提升13.7%;分词预处理这一改动使开放集准确率最高提升103.7%,说明如何把数值序列翻译给LLM本身至关重要;k-LND分类器泛化最稳健,而背景类方法在类别差异大的场景中容易失效。局限性:GPT-2的1024 token长度限制,导致长序列数据(如DF数据集)信息被截断,此时表现略逊于CNN。可推广到的其他领域核心启发是:只要数据能被合理序列化为离散token,LLM就可能挖掘出比传统方法更丰富的上下文特征,且只需少量微调。可推广场景包括:物联网/工控设备指纹识别:识别设备类型,检测未知新设备接入;恶意软件流量分类:应对不断出现的新型恶意软件家族;智能设备侧信道分析:如智能音箱流量分析;网络入侵检测:已知正常 vs. 未知异常本质上也是开放集问题;其他时序分类任务:传感器数据、金融交易序列等,只要设计合适的离散化方案即可尝试。链接论文:https://dl.acm.org/doi/10.1145/3674213.3674217代码:GitHub - YasodGinige/TrafficGPT: : An LLM Approach for Open-Set Encrypted Traffic Classification · GitHub