【CN109871362A】一种面向流式时序数据的数据压缩方法【专利】

合集下载

【CN109815047A】一种数据处理的方法和相关装置【专利】

【CN109815047A】一种数据处理的方法和相关装置【专利】
( 57 )摘要 本申请涉及虚拟化数据迁移,公开了一种数
据处理的方法和相关装置,包括:从N个存储节点 获取N个副本数据,其中 ,从所述N个存储节点中 的第n个存储节点获取所述N个副本数据中的第n 个副本数据 ,N为正整数 ,0<n≤N且n为整数 ;对 所述N个副本数据进行校验 ;在校验通过时 ,将所 述N个副本数据迁移至预设节点。实施本发明实 施例,有利于避免主副本的静默错误导致的数据 不一致问题。
<N ,当N为偶数时 ,(N/2) ≤M<N ,则将所述M个副本数据中的任一副本数据迁移至所述预设 节点,其中,M正整数;
若所述N个副本数据中有J个副本数据的数值校验一致,且当N为奇数时 ,J<((N-1)/ 2) ,当N为偶数时 ,J<(N/2) ,则放弃迁移,其中 ,J为自然数。
7 .根据权利要求6所述的方法,其特征在于,J大于0时,在所述若所述N个副本数据中有 J个副本数据的数值校验一致,且当N为奇数时,J<((N-1)/2) ,当N为偶数时,J<(N/2) ,则 放弃迁移之后,包括:
读取所述校验响应消息中的所述Q个副本数据; 将所述Q个副本数据中的任一副本数据迁移至所述预设节点。 8 .一种数据处理装置,其特征在于,包括: 获取模块 ,用于从N个存储节点获取N个副本数据 ,其中 ,从所述N个存储节点中的 第n个 存储节点获取所述N个副本数据中的第n个副本数据,N为正整数,0<n≤N且n为整数; 校验模块,用于对所述N个副本数据进行校验; 迁移模块,用于在校验通过时,将所述N个副本数据迁移至预设节点。 9 .一种数据处理的电子设备,其特征在于,包括处理器、存储器、通信接口以及一个或 多个程序 ,其中 ,所述一个或多个程序被存储在所述存储器中 ,并且被配置由所述处理器执 行,以执行权利要求1-7任一项方法中的步骤的指令。 10 .一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储计算机 程序,所述存储计算机程序被所述处理器执行,以实现权利要求1-7任一项所述的方法。

【CN109871822A】用于输出信息的方法和装置【专利】

【CN109871822A】用于输出信息的方法和装置【专利】

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910164539.3(22)申请日 2019.03.05(71)申请人 百度在线网络技术(北京)有限公司地址 100085 北京市海淀区上地十街10号百度大厦三层(72)发明人 李彤辉 (74)专利代理机构 北京英赛嘉华知识产权代理有限责任公司 11204代理人 王达佐 马晓亚(51)Int.Cl.G06K 9/00(2006.01)G06T 7/246(2017.01)G08B 21/00(2006.01)(54)发明名称用于输出信息的方法和装置(57)摘要本申请实施例公开了用于输出信息的方法和装置。

上述方法的一具体实施方式包括:获取视频,其中,视频包括至少一个用户在预设时间段内的至少一帧图像,上述图像包括至少一张人脸图像;对至少一张人脸图像进行人脸检测,确定人脸在至少一帧图像中的位置信息;基于所确定的至少一个位置信息,输出预警信息。

该实施方式可以实时地对考生的视频进行分析,通过输出预警信息的方式提醒考场服务人员,从而不需要为每个考场都配备监考老师,节省了人力。

权利要求书2页 说明书10页 附图3页CN 109871822 A 2019.06.11C N 109871822A权 利 要 求 书1/2页CN 109871822 A1.一种用于输出信息的方法,包括:获取视频,其中,所述视频包括至少一个用户在预设时间段内的至少一帧图像,所述图像包括至少一张人脸图像;对所述至少一张人脸图像进行人脸检测,确定检测到的人脸在所述至少一帧图像中的位置信息;基于所确定的至少一个位置信息,输出预警信息。

2.根据权利要求1所述的方法,其中,所述基于所确定的至少一个位置信息,输出预警信息,包括:根据所确定的至少一个位置信息,确定同一帧图像中,所述至少一个人脸指示的人脸对象之间的距离;响应于确定所述距离小于预设距离阈值,输出预警信息。

【CN109818970A】一种数据处理方法及装置【专利】

【CN109818970A】一种数据处理方法及装置【专利】

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910173339.4(22)申请日 2019.03.07(71)申请人 腾讯科技(深圳)有限公司地址 518057 广东省深圳市南山区高新区科技中一路腾讯大厦35层(72)发明人 陈国 (74)专利代理机构 广州三环专利商标代理有限公司 44202代理人 郝传鑫 熊永强(51)Int.Cl.H04L 29/06(2006.01)G06N 3/08(2006.01)G06N 3/04(2006.01)(54)发明名称一种数据处理方法及装置(57)摘要本发明实施例公开了一种数据处理方法及装置,该方法包括:当检测到目标保护对象处于被攻击状态时,获取目标保护对象与多个通信对象之间的所有会话;获取所有会话相关联的报文集合,根据报文集合确定每个会话的会话特征参数;将每个会话的会话特征参数输入到识别模型中,基于识别模型确定每个会话的会话类型;根据每个会话的会话类型确定多个通信对象中的每个通信对象的通信对象类型;将为非法类型的通信对象确定为非法通信对象,将非法通信对象添加至黑名单,并丢弃非法通信对象对应的会话。

采用本发明实施例,可提高通信信息的安全性,从而保障通信系统的稳定性,同时还可以扩大被防护的客户端的类型范围。

权利要求书3页 说明书17页 附图10页CN 109818970 A 2019.05.28C N 109818970A权 利 要 求 书1/3页CN 109818970 A1.一种数据处理方法,其特征在于,包括:当检测到目标保护对象处于被攻击状态时,获取所述目标保护对象与多个通信对象之间的所有会话;获取所述所有会话相关联的报文集合,根据所述报文集合确定每个会话的会话特征参数;将所述每个会话的会话特征参数输入到识别模型中,基于所述识别模型确定所述每个会话的会话类型;根据所述每个会话的会话类型确定所述多个通信对象中的每个通信对象的通信对象类型;当存在所述通信对象类型为非法类型的通信对象时,将为所述非法类型的通信对象确定为非法通信对象,将所述非法通信对象添加至黑名单,并丢弃所述非法通信对象对应的会话。

一种数据处理方法及装置[发明专利]

一种数据处理方法及装置[发明专利]

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910766203.4(22)申请日 2019.08.19(71)申请人 华为技术有限公司地址 518129 广东省深圳市龙岗区坂田华为总部办公楼(72)发明人 江伟玉 刘冰洋 王闯 (74)专利代理机构 北京中博世达专利商标代理有限公司 11274代理人 吴瑜(51)Int.Cl.H04L 29/06(2006.01)(54)发明名称一种数据处理方法及装置(57)摘要公开了一种数据处理方法及装置,涉及通信领域,解决了如何在防御DDoS攻击时,快速地区别合法流量和非法流量的问题。

该方法包括:通过为访问应用服务器支持运行的服务的终端分配可验证标识和该可验证标识对应的密钥,终端在发送的数据包中携带可验证标识和验证码,使得网络设备可以根据可验证标识和验证码对合法数据包和非法数据包进行识别,转发合法数据包。

权利要求书4页 说明书19页 附图7页CN 112398800 A 2021.02.23C N 112398800A1.一种数据处理方法,其特征在于,包括:接收第一可验证标识和第一密钥;根据所述第一可验证标识和所述第一密钥生成第一验证码;发送第一数据包,所述第一数据包包括所述第一可验证标识和所述第一验证码。

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一可验证标识和所述第一密钥生成第一验证码,包括:根据所述第一可验证标识和所述第一密钥、以及第一位置定位符、第二位置定位符和动态参数中至少一个生成所述第一验证码,所述第一位置定位符用于指示目标设备,所述第二位置定位符用于指示第一终端,所述动态参数是随时间可变的。

3.根据权利要求2所述的方法,其特征在于,所述方法还包括:获取所述目标设备的静态标识,所述目标设备的静态标识包括所述第一位置定位符。

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述第一可验证标识和所述第一验证码设置于所述第一数据包包含的网络层协议头部中或传输层协议头部中。

【CN109886862A】一种数据处理的方法及装置【专利】

【CN109886862A】一种数据处理的方法及装置【专利】

2
CN 109886862 A
权 利 要 求 书
2/2 页
控制所述CPU或图像处理器GPU对所述第一原始数据集合进行第一次压缩,确定第一次 压缩后的数据集合;
控 制所述CPU对所述 第一次 压缩后的 数 据集合进行 第二次 压缩 ,确定压缩后的 第一数 据集合;
将所述压缩后的第一数据集合发送到磁盘。 10 .如权利要求9所述的方法,其特征在于,第一次压缩采用随机访问压缩算法进行压 缩,第二次压缩采用不可随机访问的压缩算法进行压缩。 11 .一种数据处理的装置,其特征在于,包括: 第一获取单元,用于从磁盘中获取第一数据集合到主存; 第一解压单元 ,用于控 制所述CPU根据第一解压算法对所述第一数据集合进行 第一次 解压,确定所述第一次解压后的第二数据集合,其中,所述第一解压算法为不支持随机访问 的压缩方法对应的解压算法; 第二获取单元,用于从主存中获取所述第二数据集合到图像处理器GPU的显存; 第二解压单元 ,用于控 制所述GPU的 至 少一个处理核心根据第二解压算法对所述第二 数据集合进行第二次解压,其中,所述第二解压算法为随机访问解压算法。 12 .一种数据压缩的装置,其特征在于,包括: 分片单元,用于控制CPU将第二原始数据集合按照设定值进行分片,确定分片后的至少 一个第一原始数据集合; 第一压缩单元,用于控制所述CPU或图像处理器GPU对所述第一原始数据集合进行第一 次压缩,确定第一次压缩后的数据集合; 第二压缩单元,用于控制所述CPU对所述第一次压缩后的数据集合进行第二次压缩,确 定压缩后的第一数据集合; 发送单元,用于将所述压缩后的第一数据集合发送到磁盘。 13 .一种计算机可读存储介质,其上存储计算机程序指令,其特征在于,所述计算机程 序指令在被处理器调用时实现如权利要求1-10任一项所述的方法。

【CN109857709A】一种数据压缩方法及装置【专利】

【CN109857709A】一种数据压缩方法及装置【专利】

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910132454.7(22)申请日 2019.02.22(71)申请人 中国人民解放军空军研究院战略预警研究所地址 100000 北京市海淀区安宁庄路11号院(72)发明人 方棉佳 王建涛 王东风 张卫荣 熊子源 杨立明 (74)专利代理机构 北京超凡志成知识产权代理事务所(普通合伙) 11371代理人 王文红(51)Int.Cl.G06F 16/174(2019.01)G06F 17/14(2006.01)(54)发明名称一种数据压缩方法及装置(57)摘要本申请实施例提供了一种数据压缩方法及装置,涉及数据处理技术领域,其中,该方法包括:获取雷达中频数据;对雷达中频数据进行提升小波变换处理,得到对应于雷达中频数据的小波系数;对小波系数进行量化处理,获取雷达中频数据中的有效雷达中频数据;对有效雷达中频数据进行编码,得到对应于有效雷达中频数据的压缩数据。

本申请实施例中,采用提升小波变换的方式对雷达中频数据进行压缩,能够将中频信息聚集在较小的范围内,进而获得较高的压缩比,使得压缩效果较好。

并且,本申请中采用对雷达中频数据中的有效数据进行量化和编码,能够进一步提高压缩比,减少存储空间,并使得整个压缩过程可控度提高,能够满足大量的雷达中频数据的存储。

权利要求书2页 说明书12页 附图7页CN 109857709 A 2019.06.07C N 109857709A权 利 要 求 书1/2页CN 109857709 A1.一种数据压缩方法,其特征在于,包括:获取雷达中频数据;对所述雷达中频数据进行提升小波变换处理,得到对应于所述雷达中频数据的小波系数;对所述小波系数进行量化处理,获取所述雷达中频数据中的有效雷达中频数据;对所述有效雷达中频数据进行编码,得到对应于所述有效雷达中频数据的压缩数据。

【CN109861922A】用于控制流量的方法和装置【专利】

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910130641.1(22)申请日 2019.02.21(71)申请人 北京百度网讯科技有限公司地址 100085 北京市海淀区上地十街10号百度大厦2层(72)发明人 韩琛 段立国 王猛 曹菲菲 (74)专利代理机构 北京英赛嘉华知识产权代理有限责任公司 11204代理人 王达佐 马晓亚(51)Int.Cl.H04L 12/801(2013.01)H04L 12/803(2013.01)(54)发明名称用于控制流量的方法和装置(57)摘要本申请实施例公开了用于控制流量的方法和装置。

上述方法的一具体实施方式包括:获取分布式系统中多个流量控制节点的节点标识和分布式系统控制的至少一种资源的资源标识;根据多个节点标识和至少一个资源标识,确定分布式系统中用于控制至少一种资源的至少一个流量控制节点为资源控制节点;获取至少一种资源的配置额度;将至少一个配置额度发送给控制所对应资源的资源控制节点,以供资源控制节点为分布式系统中的流量控制节点确定控制额度。

该实施方式可以实现对多种资源的流量控制。

权利要求书3页 说明书13页 附图4页CN 109861922 A 2019.06.07C N 109861922A权 利 要 求 书1/3页CN 109861922 A1.一种用于控制流量的方法,应用于分布式系统中的管理节点,分布式系统还包括多个流量控制节点,所述方法包括:获取分布式系统中多个流量控制节点的节点标识和分布式系统控制的至少一种资源的资源标识;根据多个节点标识和至少一个资源标识,确定分布式系统中用于控制所述至少一种资源的至少一个流量控制节点为资源控制节点;获取所述至少一种资源的配置额度;将至少一个配置额度发送给控制所对应资源的资源控制节点,以供资源控制节点为分布式系统中的流量控制节点确定控制额度。

一种时序数据的处理方法、装置及电子设备[发明专利]

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 202011285978.9(22)申请日 2020.11.17(71)申请人 上海优扬新媒信息技术有限公司地址 201800 上海市嘉定区汇源路55号8幢3层307室(72)发明人 唐东格 杨青 (74)专利代理机构 北京集佳知识产权代理有限公司 11227代理人 尹秀(51)Int.Cl.G06N 3/04(2006.01)G06N 3/08(2006.01)G06Q 40/02(2012.01)(54)发明名称一种时序数据的处理方法、装置及电子设备(57)摘要本发明提供了一种时序数据的处理方法、装置及电子设备,在获取到同一用户对应的多个不同的用户时序数据之后,对用户所有的用户时序数据对应的时序特征数据进行数据合并处理,得到待分类数据,然后对待分类数据进行统一处理,则在进行用户信用等级的确定时,会综合考虑不同的时序特征数据之间的关联关系,进而使得用户信用等级的确定准确度较高,能够保证用户在进行业务办理时,使用正确的用户信用等级进行业务办理,避免了由于信用等级确定错误而使得一些业务不能正常办理的情况出现。

权利要求书2页 说明书10页 附图3页CN 112200308 A 2021.01.08C N 112200308A1.一种时序数据的处理方法,其特征在于,包括:获取用户时序数据集;所述用户时序数据集中包括同一用户对应的多个不同的用户时序数据;对所述用户时序数据集中的各个用户时序数据进行特征提取操作,得到时序特征数据;对各个所述用户时序数据对应的时序特征数据进行数据合并处理,得到待分类数据;依据预设分类规则,对所述待分类数据进行分类操作,得到所述用户时序数据集的分类结果。

2.根据权利要求1所述的处理方法,其特征在于,获取用户时序数据集,包括:获取用户时序初始数据集;所述用户时序初始数据集中包括同一用户对应的多个不同的用户时序初始数据;依据所述用户时序初始数据的数据特征,对所述用户时序初始数据进行离散化或归一化操作,得到用户时序中间数据;依据预设稀疏数据处理规则,对所述用户时序中间数据中的稀疏数据进行处理,得到用户时序数据。

一种数据压缩方法[发明专利]

专利名称:一种数据压缩方法
专利类型:发明专利
发明人:童凯,李国林,谢翔,谷荧科,赵凯,刘守浩,王志华申请号:CN201110376355.7
申请日:20111123
公开号:CN102395031A
公开日:
20120328
专利内容由知识产权出版社提供
摘要:本发明涉及数据压缩技术领域,公开了一种数据压缩方法,包括以下步骤:S1、对输入的四个一维数据x,x,x,x进行4点DCT变换,输出四个一维数据f,f,f,f;S2、用量化步长对DCT 变换的系数进行量化。

本发明利用三角函数的对称关系将数据压缩过程的一维4点DCT变换中的一部分系数(α、β)提取出来,对量化步长进行加权,用加权后的量化步长对DCT系数进行量化,使得在数据压缩精度、结构不变的情况下将现有技术中所需要的DCT变换运算的3次乘法简化为1次乘法,从而加快了数据压缩的速度并减少了其开销。

申请人:清华大学
地址:100084 北京市海淀区清华园北京100084-82信箱
国籍:CN
代理机构:北京路浩知识产权代理有限公司
代理人:王莹
更多信息请下载全文后查看。

一种支持编辑的时序数据在线压缩方法[发明专利]

专利名称:一种支持编辑的时序数据在线压缩方法
专利类型:发明专利
发明人:王兴信,孔海斌,王传起,李吉勇,刘仲尧,唐军沛,夏寨芳,刘春庆,谭军光,周志辉,任永伟,谭凯,吴海勇,张伟,
刘晶敏
申请号:CN201510149751.4
申请日:20150401
公开号:CN104734726A
公开日:
20150624
专利内容由知识产权出版社提供
摘要:本发明提出了一种支持编辑的时序数据在线压缩方法,以数据块为基本存贮单位,把时序数据分解成时序值组和质量组,分别在数据块的头部和尾部压缩存贮,直到数据块存贮满。

在时序数据质量稳定的情况下,数字量类型的时序数据仅占用4字节存贮空间,通过对浮点值的进一步压缩,模拟量类型的时序数据仅占6字节的存贮空间,因此明显降低了数据量,提升了系统性能。

本发明通过对每条原始数据都对应一个时序值组的存贮方法,使压缩存贮后的数据可以支持快速的编辑修改。

申请人:东方电子股份有限公司
地址:264000 山东省烟台市芝罘区机场路2号
国籍:CN
代理机构:烟台双联专利事务所(普通合伙)
代理人:梁翠荣
更多信息请下载全文后查看。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 (43)申请公布日 (21)申请号 201910112962.9
(22)申请日 2019.02.13
(71)申请人 北京航空航天大学
地址 100191 北京市海淀区学院路37号
(72)发明人 李建欣 李晨 司靖辉 韦冠宇 
胡春明 
(74)专利代理机构 北京中创阳光知识产权代理
有限责任公司 11003
代理人 尹振启
(51)Int.Cl.
G06F 16/174(2019.01)
G06F 16/13(2019.01)
(54)发明名称
一种面向流式时序数据的数据压缩方法
(57)摘要
本发明提出一种面向流式时序数据的数据
压缩方法,其特征在于,包括以下步骤:
步骤1,数据清洗,所述数据清洗包括数据的缺失值处理、
异常值处理,再对数据进行类型识别,得到时间
标记数据和观测值数据;步骤2,数据压缩,所述
将封装后的时间标记数据进行时间戳压缩,将观
测值数据进行观测值数据压缩;步骤3,所述时间
戳数据压缩数据和所述观测值数据压缩数据进
行可变长编码;步骤4,数据封装,所述封装是将
数据按不同类型的数据列压缩存储在数据文件。

权利要求书1页 说明书5页 附图4页CN 109871362 A 2019.06.11
C N 109871362
A
权 利 要 求 书1/1页CN 109871362 A
1.一种面向流式时序数据的数据压缩方法,其特征在于,包括以下步骤:步骤1,数据清洗,所述数据清洗包括数据的缺失值处理、异常值处理,再对数据进行类型识别,得到时间标记数据和观测值数据;步骤2,数据压缩,所述将封装后的时间标记数据进行时间戳压缩,将观测值数据进行观测值数据压缩;步骤3,所述时间戳数据压缩数据和所述观测值数据压缩数据进行可变长编码;步骤4,数据封装,所述封装是将数据按不同类型的数据列压缩存储在数据文件。

2.如权利要求1所述的方法,其特征在于,在所述步骤2中,所述时间戳数据压缩的具体方式为,获取整个缓存块的平均时间差值,然后获取每个时间戳数据与理论时间戳数据间的差值,然后将得到的所述差值求和取平均值。

3.如权利要求2所述的方法,其特征在于,在所述步骤2中,所述观测值数据压缩的具体方式为,求取观测值数据的二进制表示,然后根据其精度需要进行二进制编码的尾部置零,然后计算其与上一条数据编码的异或值。

4.如权利要求3所述的方法,其特征在于,所述尾部置零的具体方式为,尾数段置零的个数为:所述values是所述观测值数据的数值,所述n为要保留的观测值数据的精度,所述l dou为double类型尾数部分的个数。

5.如权利要求4所述的方法,所述可变长编码的具体方式为:步骤1,输入时间戳数据与编码的分组长度;步骤2计算时间戳数据的二进制编码;步骤3,判断所述二进制编码是否为分组长度的整数倍,如果是则依据分组长度对编码进行分割,如果否则对编码进行前置补位,然后再依据分组长度对编码进行分割;步骤4:,判断分割片段是否为最后一组,如果是则跳转至步骤5,如果否,则将该片段的前置标志位设置为0,指向下一个前段,并继续重复步骤4;步骤5,将分割片段为最后一组的前置标志位设置为1;步骤6,输出时间戳数据的分组编码。

6.如权利要求5所述的方法,所述封装结构为四个部分,第一部分是文件头,其中主要包含了文件的识别信息、文件压缩算法、文件压缩参数、文件数据索引等内容,第二部分包含了数据的时间戳,为压缩后的二进制数据,第三部分包含了数据的观察值,为压缩后的二进制数据,第四部分包含了所有数据的校验值。

2。

相关文档
最新文档