Java POI讀取大文件慢如何優化?

高效處理Java poi讀取大文件難題

在使用java poi處理大型excel文件時,常常會遇到讀取速度緩慢的問題,嚴重影響程序性能。本文將針對“java poi打開大文件慢的優化方法?”這一問題,探討幾種可行的解決方案,幫助開發者提升程序效率。

問題在于java poi 默認會將整個excel文件加載到內存中,對于大型文件而言,這會導致內存占用過高,甚至出現outofmemoryerror,并極大拖慢讀取速度。 因此,需要采用優化策略來解決這個問題。

主要有兩種方法可以有效提升讀取大文件的效率:

方案一:使用xlsx-streamer實現分段讀取

立即學習Java免費學習筆記(深入)”;

xlsx-streamer是一個基于poi的庫,它采用分段緩存的方式加載數據,避免一次性將整個文件加載到內存中。通過streamingreader,可以創建一個緩沖區,批量讀取文件內容。 這使得程序可以處理遠大于內存容量的大型excel文件。

首先需要引入xlsx-streamer的依賴:

<!-- excel工具 --> <dependency>     <groupid>org.apache.poi</groupid>     <artifactid>poi-ooxml</artifactid>     <version>${poi.version}</version> </dependency> <!-- 讀取大量excel數據時使用 --> <dependency>     <groupid>com.monitorjbl</groupid>     <artifactid>xlsx-streamer</artifactid>     <version>2.1.0</version> </dependency>

以下是一個使用xlsx-streamer讀取大型excel文件的示例代碼:

    public static void readlagerexcel(file file) throws exception {         inputstream inputstream = new fileinputstream(file);         long start = system.currenttimemillis();         try (workbook workbook = streamingreader.builder()                 .rowcachesize(10 * 10)  //緩存到內存中的行數,默認是10                 .buffersize(1024 * 4)  //讀取資源時,緩存到內存的字節大小,默認是1024                 .open(inputstream)) { //打開資源,可以是inputstream或者是file,注意:只能打開.xlsx格式的文件              sheet sheet = workbook.getsheetat(0);             log.info("==讀取excel完畢,耗時:{}毫秒,", system.currenttimemillis() - start);             //遍歷所有的行             for (row row : sheet) {                 system.out.println("開始遍歷第" + row.getrownum() + "行數據:");                 //遍歷所有的列                 for (cell cell : row) {                     system.out.print(cell.getstringcellvalue() + " ");                 }                 system.out.println(" ");             }             //總數             system.out.println("讀取結束行數:" + sheet.getlastrownum());         }     }

使用該方法處理40萬級別的數據,耗時大約5.4秒。

方案二:使用easyexcel進行優化

easyexcel是阿里巴巴開源的一個基于poi的excel處理工具,它對poi進行了封裝和優化,能夠有效解決大文件讀取時內存溢出的問題。 easyexcel 提供了更高效的讀取和寫入方式,尤其適合處理海量數據。

需要引入easyexcel的依賴:

<!-- easyexcel 大數據量excel讀寫 --> <dependency>     <groupid>com.alibaba</groupid>     <artifactid>easyexcel</artifactid>     <version>3.1.0</version> </dependency>

以下是一個簡單的easyexcel讀取示例:

  public static void readExcelByEasyExcel(File file) {       long start = System.currentTimeMillis();       List<ExcelData> excelDataList = EasyExcel.read(file).head(ExcelData.class).sheet(0).doReadSync();       excelDataList.stream().forEach(x -> System.out.println(x.toString()));       log.info("==讀取excel完畢,耗時:{}毫秒,", System.currentTimeMillis() - start);   }

這兩種方案都可以有效提高java poi處理大文件的效率,選擇哪種方案取決于具體的應用場景和需求。

? 版權聲明
THE END
喜歡就支持一下吧
點贊13 分享