通用深度学习语言模型的隐私风险评估

近年来,自然语言处理领域涌现出多种基于Transformer网络结构的通用深度学习语言模型,简称“通用语言模型(general-purpose language models,GPLMs)”,包括Google提出的BERT(bidirectional encoder representation from transformers)模型等,已在多个标准数据集和多项重要自然语言处理任务上刷新了最优基线指标,并已逐渐在商业场景中得到应用.尽管其具有很好的泛用性和性能表现,在实际部署场景中,通用语言模型的安全性却鲜为研究者所重视.近年有研究工作指出,如果攻击者利用中间人攻击或作为半诚实(honest-but-curious)服务提供方截获用户输入文本经由通用语言模型计算产生的文本特征,它将以较高的准确度推测原始文本中是否包含特定敏感词.然而,该工作仅采用了特定敏感词存在与否这一单一敏感信息窃取任务,依赖一些较为严格的攻击假设,且未涉及除英语外其他语种的使用场景.为解决上述问题,提出1条针对通用文本特征的隐私窃取链,从更多维度评估通用语言模型使用中潜在的隐私风险.实验结果表明:仅根据通用语言模型提取出的文本表征,攻击者能以近100%的准确度推断其模型来源,以超70%的准确度推断其原始文本长度,最终推断出最有可能出现的敏感词列表,以重建原始文本的敏感语义.此外,额外针对3种典型的中文预训练通用语言模型开展了相应的隐私窃取风险评估,评估结果表明中文通用语言模型同样存在着不可忽视的隐私风险.     

640×512-5μm InGaAs短波红外焦平面读出电路设计

为了适应第三代红外焦平面高密度、微型化发展方向,设计了一款大面阵小像元低功耗640×512-5μm InGaAs短波红外焦平面读出电路。重点研究了3T像素单元简易结构的性能,分析其对芯片暗电流、焦平面噪声的影响,实现了卷帘曝光工作方式、列级缓冲器动态工作以及四通道输出功能。利用可编程增益放大器,实现增益可调以及噪声抑制功能。基于0.18μm 3.3V标准CMOS工艺,在输入时钟频率为5MHz条件下,对小像素单元进行性能分析,阵列窗口进行四通道输出以及线性度仿真。结果表明,电容反馈跨阻放大器(CTIA)输入级偏压变化约30mV,工作帧频为54Hz,输出摆幅为1.7V,最大功耗小于150mW,线性度为99.987%。     

基于SAR ADC的短波红外焦平面数字化读出电路研究

片上集成数字化是红外焦平面的主要发展方向之一,其关键技术是在读出电路内部集成模数转换(ADC)模块。针对线列InGaAs焦平面的数字化需求,采用了一种基于非二进制的冗余位 SAR ADC设计方案。整个读出电路包括读出电路单元和模数转换单元。读出电路单元采用的是电容跨阻放大器(CTIA)结构,其结构线性度好,注入效率高;模数转换单元采用的是SAR ADC,其结构简单,功耗低。文章采用非二进制校准的方法对CDAC模块进行设计,通过在电容阵列中插入冗余位来提高ADC的转换速度和精度,并使用下极板采样技术来提高采样精度。在0.18μm CMOS工艺模型下,完成了14bit的SAR ADC的设计。仿真结果表明:在采样率为1MS/s条件下,SAR ADC的信噪比(SNR)为74dB,有效位数为13.4bits。     

基于可编程开窗IP核的低功耗读出电路研究EI北大核心CSCD

红外焦平面探测器正朝着更大规模、高帧频、高集成度的方向发展。在高速目标跟踪探测、感兴趣区域成像等应用场景,需要解决高速读出时面临的功耗较高的难点。文中提出了一种数字IC的可编程开窗IP核设计,并通过采用列级分时选通技术,实现对640×512读出电路列模块的超低功耗优化。像素单元电路包含CTIA输入级、双采样保持结构和跟随输出,折衷优化了面积、噪声和增益等因素。相较于传统用门级电路定制设计实现的开窗方式,可编程开窗数字IP核对于不同面阵规格具有良好的可扩展性,并且可以借助后端软件综合优化版图布局,从而缩短设计周期。实际研制中采用0.18μm标准CMOS工艺完成了中心距15μm的640×512读出电路设计及流片验证,并与640×512元短波红外InGaAs探测器芯片进行了耦合测试,结果表明分时选通技术有效降低了列级电路功耗,电路读出总功耗小于80 mW,列级功耗仅为15 mW,读出速率达到15 MHz,可编程开窗IP核功能正常,可以实现指定区域的开窗功能。