基于MLIR的FP8量化模拟与推理内存优化

随着目标检测模型和语言大模型的迅速发展,网络模型正变得越来越庞大.为了更好地在端侧硬件上进行模型部署,通常采用模型量化技术对模型进行压缩.现有的模型量化策略主要基于FP16,BF16和INT8等类型实现.其中,8bit数据类型在降低推理内存占用与部署开销方面最为显著,但INT8类型依赖特定的校准算法,未能很好地处理动态范围大、离群点多的模型.FP8类型能够更好地拟合神经网络中的数据分布,同时具有多种数制,可在表达范围和表达精度上灵活调整.然而,当前MLIR系统缺乏对FP8类型量化的支持.为此,提出了一种基于MLIR系统的FP8量化模拟策略,包含FP8E4M3和FP8E5M2两种数制,通过对网络中的算子进行量化模拟,评估FP8两种数制对模型推理精度的影响.同时,针对推理引擎中存在的内存分配冗余问题,提出了一种基于定义使用链的内存复用策略,使得模型推理过程中的内存占用峰值进一步减小.实验选取了典型的Yolov5s和Resnet50模型进行测试,结果表明相较于现有的INT8量化策略,FP8量化策略能够保持更好的模型精度,同时不依赖特定校准算法,部署更为简便.在模型精度上,测试用例分别达到了 55.5％和77.8％的准确度,经过内存复用优化,内存占用峰值降低了约15％～20％.     

近红外扩散相关光谱系统的研制

近红外扩散相关光谱(DCS)是一种先进的无创检测组织深层血流流速变化的动态光散射技术.为了解决光子相关器价格昂贵、灵活性差、应用局限、计算效率低的问题,采用将光子相关器软件化的方法,设计了一种近红外扩散相关谱检测系统.该系统以单纵模长相干激光器作为光源,采用单光子探测器探测散射光信号,用数字信号采集模块采集高速数字信号,并对数字脉冲信号进行计数,基于软件完成了对动态散射光斑光强归一化自相关的计算.结果表明,该系统计算出生物样品波动漫反射信号的时间平均强度自相关函数符合理论,验证了系统检测功能的可靠性;在客观评价指标方面,可成功区分不同的生物样品,并且能够分别体积分数差为1％的同种生物样品.该系统可以实时监测生物样品整体的光学特性和动态特性,具有体积小、成本低、灵活性好、可拓展性强的特点,为轻量化DCS检测系统的发展提供了一种新的解决方案.     

甲苯胺红颜料新产品通过省级鉴定并投入运转

甲苯胺红是乙萘酚系列红色偶氮颜料,它是有机颜料红品种中产量较大的品种之一。具有成本低、耐光牢度好、熔点较高(258℃)、热分解温度高 (276℃) 等特点。可用于造漆、制造印泥、印油、铅笔、水彩和油彩颜料及橡胶制品的着色,还可用于漆布、塑料和天然生漆的着色,目前市场紧     

对甲砜基甲苯通过省级鉴定

对甲砜基甲苯是生产抗菌素新药甲砜霉素的中间体。甲砜霉素是一种广谱抗菌素,由于其临床应用毒性小,在体内的抗菌力却比氯霉素强,所以在国内是代替氯霉素的一种新的广谱抗菌素。嘉兴市化工厂利用甲苯氯磺化法生产糖精的副产物对甲苯磺酰氯为     

上海质子重离子医院工艺冷却水及空调水系统节能设计

介绍了该工程的工艺冷却水系统及空调水系统设计中采用的多项节能措施,主要包括工艺一、二次水系统的优化和控制方式以及空调水系统中采用的水源热泵、冷却塔免费供冷等技术手段。     

低压瓦斯芳构化的研究

主要考查了以石油二厂气柜中低压瓦斯为原料的某种催化剂的作用下,把其中的烯烃和碳四以上的烷烃转化为芳烃的工艺过程及影响因素。在反应温度为５２０￣５４０℃和质量空速为０．５￣０．７ｈ＾－１及常压下,其有效组份（烯烃和碳四以上烷烃）的转化率在８０％以上,产品质量液收率在４０％￣５０％之间（按有效组份计算）,产品中的芳烃含量高达９８％以上,反应后尾气中的氢气含量在４０％￣５０％（体积）之间,产品中的芳烃不     

含钒高速车轮钢第二相析出的热力学研究

利用热力学软件Thermo-calc计算了含钒高速铁路车轮钢中第二相的析出行为,详细分析了低碳车轮钢中平衡相的组成以及温度和钒含量对第二相析出的影响.结果表明,钢中钒含量的变化对车轮钢中第二相析出量有较大影响,对第二相析出的温度几乎无影响;温度变化对钢中稳定存在的第二相析出产物影响较小,对瞬态析出相的影响较大.     

基于IP技术的电力系统柔性SCADA研究与应用

新建的高速电力信息网使电力系统原有通信方式发生重大变化,如何有效利用电力信息网为电力系统运行和应用服务成为研究人员关心的问题。在高速电力信息网的基础上,提出了一种柔性SCADA概念。柔性SCADA是在高速的广域电力信息网的基础上,充分利用新增的带宽资源,在原有远动规约上进行扩充,将IP技术应用于电力系统通信,将数据、语音、图像等业务集于一体,组成的灵活交互式信息网络,是现有SCA-DA系统的全面升级和增强。基于柔性SCADA可以开展多种电力系统的新兴应用,以故障信息系统为例,描述了其功能和结构。故障信息系统是对现有EMS功能的补充和完善,可以支持更多的高级应用,对于提高电网自动化运行水平和电网调度水平具有极其重要的意义。     

基于二阶盲辨识的系统谐波阻抗计算

文章指出随机独立矢量法的误差是由于将公共耦合点的谐波电流近似等效为用户侧谐波电流引起的,根据误差分析,提出基于二阶盲辨识的系统谐波阻抗估计方法。首先分离测量得到的谐波电压和电流信号为快速变化部分和缓慢变化部分。根据系统侧和用户侧谐波电流快速变化部分近似独立性的性质,对公共耦合点的谐波电流和电压快速变化部分进行二阶盲辨识计算,得到4个独立信号;根据公共耦合点的谐波电流近似等于用户侧谐波电流,即具有较大的相关系数,计算独立信号与公共耦合点谐波电流之间的相关系数,根据相关系数的大小判断4个独立信号中的用户谐波电流实虚部;最后,根据随机矢量协方差为零的性质,计算得到系统谐波阻抗值。通过仿真计算表明,文中方法有效的提高了随机独立矢量法的计算精度,具有较高的准确性。