首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 数据库 > Access >

高效率的RandomAccessFile

2012-11-01 
高效的RandomAccessFile主体:?RandomAccessFile类。其I/O性能较之其它常用开发语言的同类性能差距甚远,严重

高效的RandomAccessFile

主体:

?

RandomAccessFile类。其I/O性能较之其它常用开发语言的同类性能差距甚远,严重影响程序的运行效率。

开发人员迫切需要提高效率,下面分析RandomAccessFile等文件类的源代码,找出其中的症结所在,并加以改进优化,创建一个"性/价比"俱佳的随机文件访问类BufferedRandomAccessFile。

?

在改进之前先做一个基本测试:逐字节COPY一个12兆的文件(这里牵涉到读和写)。

?

读写耗用时间(秒)RandomAccessFileRandomAccessFile95.848BufferedInputStream + DataInputStreamBufferedOutputStream + DataOutputStream2.935

?

我们可以看到两者差距约32倍,RandomAccessFile也太慢了。先看看两者关键部分的源代码,对比分析,找出原因。

?

1.1.[RandomAccessFile]

?

public class RandomAccessFile implements DataOutput, DataInput {public final byte readByte() throws IOException {int ch = this.read();if (ch < 0)throw new EOFException();return (byte)(ch);}public native int read() throws IOException; public final void writeByte(int v) throws IOException {write(v);} public native void write(int b) throws IOException; }

?

可见,RandomAccessFile每读/写一个字节就需对磁盘进行一次I/O操作。

?

1.2.[BufferedInputStream]

?

public class BufferedInputStream extends FilterInputStream {private static int defaultBufferSize = 2048; protected byte buf[]; // 建立读缓存区public BufferedInputStream(InputStream in, int size) {super(in);        if (size <= 0) {throw new IllegalArgumentException("Buffer size <= 0");}buf = new byte[size];}public synchronized int read() throws IOException {ensureOpen();if (pos >= count) {fill();if (pos >= count)return -1;}return buf[pos++] & 0xff; // 直接从BUF[]中读取} private void fill() throws IOException {if (markpos < 0)    pos = 0;/* no mark: throw away the buffer */else if (pos >= buf.length)/* no room left in buffer */    if (markpos > 0) {/* can throw away early part of the buffer */int sz = pos - markpos;System.arraycopy(buf, markpos, buf, 0, sz);pos = sz;markpos = 0;    } else if (buf.length >= marklimit) {markpos = -1;/* buffer got too big, invalidate mark */pos = 0;/* drop buffer contents */    } else {/* grow buffer */int nsz = pos * 2;if (nsz > marklimit)    nsz = marklimit;byte nbuf[] = new byte[nsz];System.arraycopy(buf, 0, nbuf, 0, pos);buf = nbuf;    }count = pos;int n = in.read(buf, pos, buf.length - pos);if (n > 0)    count = n + pos;}}
?

1.3.[BufferedOutputStream]

?

public class BufferedOutputStream extends FilterOutputStream {   protected byte buf[]; // 建立写缓存区   public BufferedOutputStream(OutputStream out, int size) {super(out);if (size <= 0) {throw new IllegalArgumentException("Buffer size <= 0");}buf = new byte[size];    } public synchronized void write(int b) throws IOException {if (count >= buf.length) {   flushBuffer();}buf[count++] = (byte)b; // 直接从BUF[]中读取   }   private void flushBuffer() throws IOException {if (count > 0) {out.write(buf, 0, count);count = 0;}   }}
?

可见,Buffered I/O putStream每读/写一个字节,若要操作的数据在BUF中,就直接对内存的buf[]进行读/写操作;否则从磁盘相应位置填充buf[],再直接对内存的buf[]进行读/写操作,绝大部分的读/写操作是对内存buf[]的操作。

?

1.3.小结

?

内存存取时间单位是纳秒级(10E-9),磁盘存取时间单位是毫秒级(10E-3),同样操作一次的开销,内存比磁盘快了百万倍。理论上可以预见,即使对内存操作上万次,花费的时间也远少对于磁盘一次I/O的开销。显然后者是通过增加位于内存的BUF存取,减少磁盘I/O的开销,提高存取效率的,当然这样也增加了BUF控制部分的开销。从实际应用来看,存取效率提高了32倍。

?

根据1.3得出的结论,现试着对RandomAccessFile类也加上缓冲读写机制。

?

随机访问类与顺序类不同,前者是通过实现DataInput/DataOutput接口创建的,而后者是扩展FilterInputStream/FilterOutputStream创建的,不能直接照搬。

?

2.1.开辟缓冲区BUF[默认:1024字节],用作读/写的共用缓冲区。

?

2.2.先实现读缓冲。

?

读缓冲逻辑的基本原理:

A 欲读文件POS位置的一个字节。B 查BUF中是否存在?若有,直接从BUF中读取,并返回该字符BYTE。C 若没有,则BUF重新定位到该POS所在的位置并把该位置附近的BUFSIZE的字节的文件内容填充BUFFER,返回B。

以下给出关键部分代码及其说明:

?

public class BufferedRandomAccessFile extends RandomAccessFile {//  byte read(long pos):读取当前文件POS位置所在的字节//  bufstartpos、bufendpos代表BUF映射在当前文件的首/尾偏移地址。//  curpos指当前类文件指针的偏移地址。    public byte read(long pos) throws IOException {        if (pos < this.bufstartpos || pos > this.bufendpos ) {            this.flushbuf();            this.seek(pos);            if ((pos < this.bufstartpos) || (pos > this.bufendpos))                 throw new IOException();        }        this.curpos = pos;        return this.buf[(int)(pos - this.bufstartpos)];    }// void flushbuf():bufdirty为真,把buf[]中尚未写入磁盘的数据,写入磁盘。    private void flushbuf() throws IOException {        if (this.bufdirty == true) {            if (super.getFilePointer() != this.bufstartpos) {                super.seek(this.bufstartpos);            }            super.write(this.buf, 0, this.bufusedsize);            this.bufdirty = false;        }    }// void seek(long pos):移动文件指针到pos位置,并把buf[]映射填充至POS所在的文件块。    public void seek(long pos) throws IOException {        if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in buf            this.flushbuf();            if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) {   // seek pos in file (file length > 0)              this.bufstartpos =  pos * bufbitlen / bufbitlen;                  this.bufusedsize = this.fillbuf();            } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) {   // seek pos is append pos                this.bufstartpos = pos;                this.bufusedsize = 0;            }            this.bufendpos = this.bufstartpos + this.bufsize - 1;        }        this.curpos = pos;    }// int fillbuf():根据bufstartpos,填充buf[]。    private int fillbuf() throws IOException {        super.seek(this.bufstartpos);        this.bufdirty = false;        return super.read(this.buf);    }}
?

至此缓冲读基本实现,逐字节COPY一个12兆的文件(这里牵涉到读和写,用BufferedRandomAccessFile试一下读的速度):

?

读写耗用时间(秒)RandomAccessFileRandomAccessFile95.848BufferedRandomAccessFileBufferedOutputStream +DataOutputStream2.813BufferedInputStream +DataInputStreamBufferedOutputStream +DataOutputStream2.935

?

可见速度显著提高,与BufferedInputStream+DataInputStream不相上下。

?

2.3.实现写缓冲。

?

写缓冲逻辑的基本原理:

A欲写文件POS位置的一个字节。B 查BUF中是否有该映射?若有,直接向BUF中写入,并返回true。C若没有,则BUF重新定位到该POS所在的位置,并把该位置附近的BUFSIZE字节的文件内容填充BUFFER,返回B。

下面给出关键部分代码及其说明:

?

// boolean write(byte bw, long pos):向当前文件POS位置写入字节BW。// 根据POS的不同及BUF的位置:存在修改、追加、BUF中、BUF外等情况。在逻辑判断时,把最可能出现的情况,最先判断,这样可提高速度。// fileendpos:指示当前文件的尾偏移地址,主要考虑到追加因素    public boolean write(byte bw, long pos) throws IOException {        if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) { // write pos in buf            this.buf[(int)(pos - this.bufstartpos)] = bw;            this.bufdirty = true;            if (pos == this.fileendpos + 1) { // write pos is append pos                this.fileendpos++;                this.bufusedsize++;            }        } else { // write pos not in buf            this.seek(pos);            if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // write pos is modify file                this.buf[(int)(pos - this.bufstartpos)] = bw;            } else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // write pos is append pos                this.buf[0] = bw;                this.fileendpos++;                this.bufusedsize = 1;            } else {                throw new IndexOutOfBoundsException();            }            this.bufdirty = true;        }        this.curpos = pos;        return true;    }
?

至此缓冲写基本实现,逐字节COPY一个12兆的文件,(这里牵涉到读和写,结合缓冲读,用BufferedRandomAccessFile试一下读/写的速度):

?

读写耗用时间(秒)RandomAccessFileRandomAccessFile95.848BufferedInputStream +DataInputStreamBufferedOutputStream +DataOutputStream2.935BufferedRandomAccessFileBufferedOutputStream +DataOutputStream2.813BufferedRandomAccessFileBufferedRandomAccessFile2.453

?

可见综合读/写速度已超越BufferedInput/OutputStream+DataInput/OutputStream。

热点排行