网站首页 > java教程 正文
前两天发了一个用户操作excel的库,「开源」操作Excel的工具包,功能强大
今天再推荐一个,来自阿里巴巴的,easyExcel。大厂出品,质量应该更有保障吧。
easyExcel解决了什么问题?
Excel读写时候内存溢出
虽然POI是目前使用最多的用来做excel解析的框架,但这个框架并不那么完美。大部分使用POI都是使用他的userModel模式。userModel的好处是上手容易使用简单,随便拷贝个代码跑一下,剩下就是写业务转换了,虽然转换也要写上百行代码,相对比较好理解。然而userModel模式最大的问题是在于非常大的内存消耗,一个几兆的文件解析要用掉上百兆的内存。现在很多应用采用这种模式,之所以还正常在跑一定是并发不大,并发上来后一定会OOM或者频繁的full gc。
其他开源框架使用复杂
对POI有过深入了解的估计才知道原来POI还有SAX模式。但SAX模式相对比较复杂,excel有03和07两种版本,两个版本数据存储方式截然不同,sax解析方式也各不一样。想要了解清楚这两种解析方式,才去写代码测试,估计两天时间是需要的。再加上即使解析完,要转换到自己业务模型还要很多繁琐的代码。总体下来感觉至少需要三天,由于代码复杂,后续维护成本巨大。
其他开源框架存在一些BUG修复不及时
由于我们的系统大多数都是大并发的情况下运行的,在大并发情况下,我们会发现poi存在一些bug,如果让POI团队修复估计遥遥无期了。所以我们在easyexcel对这些bug做了规避。
Excel格式分析格式分析
- xls是Microsoft Excel2007前excel的文件存储格式,实现原理是基于微软的ole db是微软com组件的一种实现,本质上也是一个微型数据库,由于微软的东西很多不开源,另外也已经被淘汰,了解它的细节意义不大,底层的编程都是基于微软的com组件去开发的。
- xlsx是Microsoft Excel2007后excel的文件存储格式,实现是基于openXml和zip技术。这种存储简单,安全传输方便,同时处理数据也变的简单。
- csv 我们可以理解为纯文本文件,可以被excel打开。他的格式非常简单,解析起来和解析文本文件一样。
核心原理
写有大量数据的xlsx文件时,POI为我们提供了SXSSFWorkBook类来处理,这个类的处理机制是当内存中的数据条数达到一个极限数量的时候就flush这部分数据,再依次处理余下的数据,这个在大多数场景能够满足需求。 读有大量数据的文件时,使用WorkBook处理就不行了,因为POI对文件是先将文件中的cell读入内存,生成一个树的结构(针对Excel中的每个sheet,使用TreeMap存储sheet中的行)。如果数据量比较大,则同样会产生java.lang.OutOfMemoryError: Java heap space错误。POI官方推荐使用“XSSF and SAX(event API)”方式来解决。 分析清楚POI后要解决OOM有3个关键。
1、文件解压文件读取通过文件形式
2、避免将全部全部数据一次加载到内存
采用sax模式一行一行解析,并将一行的解析结果以观察者的模式通知处理。
3、抛弃不重要的数据
Excel解析时候会包含样式,字体,宽度等数据,但这些数据是我们不关系的,如果将这部分数据抛弃可以大大降低内存使用。Excel中数据如下Style占了相当大的空间。
开源地址:
https://github.com/alibaba/easyexcel?utm_source=gold_browser_extension
猜你喜欢
- 2024-10-08 使用Java实现Excel数据采集及后台统计功能
- 2024-10-08 java百万千万级别excel导出问题(导出慢和Out Of Memory内存溢出)
- 2024-10-08 利用阿里EasyExcel实现Excel读写(阿里云表格识别)
- 2024-10-08 java轻松玩转Excel之EasyExcel(java excelutil)
- 2024-10-08 「开源资讯」MyExcel 3.8.1 版本发布,Excel等多项功能的工具包
- 2024-10-08 Java 复制Excel单元格区域(java复制粘贴)
- 2024-10-08 Excel神具EasyExcel,常见API(excel.app)
- 2024-10-08 三层-使用NPOI读取Excel文件的数据 183
- 2024-10-08 每天一个入坑小技巧:通过poi、poi-ooxml框架读取不同格式excel
- 2024-10-08 用BxScript读取Excel(读取blob字段)
你 发表评论:
欢迎- 05-02Go 中的 channel 与 Java BlockingQueue 的本质区别
- 05-02处理线上RabbitMQ队列阻塞(rabbitmq队列状态)
- 05-02实现延迟队列,这些你知道吗?(延迟队列 kafka)
- 05-02学无止境:AQS阻塞队列和条件队列是如何使用的?
- 05-02京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?
- 05-02阻塞队列ArrayBlockingQueue的实现原理浅析
- 05-02高性能队列:Java Concurrent包中的BlockingQueue
- 05-02不允许还有Java程序员不了解BlockingQueue阻塞队列的实现原理
- 最近发表
-
- Go 中的 channel 与 Java BlockingQueue 的本质区别
- 处理线上RabbitMQ队列阻塞(rabbitmq队列状态)
- 实现延迟队列,这些你知道吗?(延迟队列 kafka)
- 学无止境:AQS阻塞队列和条件队列是如何使用的?
- 京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?
- 阻塞队列ArrayBlockingQueue的实现原理浅析
- 高性能队列:Java Concurrent包中的BlockingQueue
- 不允许还有Java程序员不了解BlockingQueue阻塞队列的实现原理
- JAVA并发之BlockingQueue(阻塞队列)
- dify案例分享-API文档生成接口代码
- 标签列表
-
- java反编译工具 (77)
- java反射 (57)
- java接口 (61)
- java随机数 (63)
- java7下载 (59)
- java数据结构 (61)
- java 三目运算符 (65)
- java对象转map (63)
- Java继承 (69)
- java字符串替换 (60)
- 快速排序java (59)
- java并发编程 (58)
- java api文档 (60)
- centos安装java (57)
- java调用webservice接口 (61)
- java深拷贝 (61)
- 工厂模式java (59)
- java代理模式 (59)
- java.lang (57)
- java连接mysql数据库 (67)
- java重载 (68)
- java 循环语句 (66)
- java反序列化 (58)
- java时间函数 (60)
- java是值传递还是引用传递 (62)
本文暂时没有评论,来添加一个吧(●'◡'●)