469 lines
18 KiB
Markdown
469 lines
18 KiB
Markdown
<!-- GFM-TOC -->
|
||
* [一、概览](#一概览)
|
||
* [二、磁盘操作](#二磁盘操作)
|
||
* [三、字节操作](#三字节操作)
|
||
* [四、字符操作](#四字符操作)
|
||
* [五、对象操作](#五对象操作)
|
||
* [六、网络操作](#六网络操作)
|
||
* [InetAddress](#inetaddress)
|
||
* [URL](#url)
|
||
* [Sockets](#sockets)
|
||
* [Datagram](#datagram)
|
||
* [七、NIO](#七nio)
|
||
* [流与块](#流与块)
|
||
* [通道与缓冲区](#通道与缓冲区)
|
||
* [缓冲区状态变量](#缓冲区状态变量)
|
||
* [文件 NIO 实例](#文件-nio-实例)
|
||
* [选择器](#选择器)
|
||
* [套接字 NIO 实例](#套接字-nio-实例)
|
||
* [内存映射文件](#内存映射文件)
|
||
* [对比](#对比)
|
||
* [八、参考资料](#八参考资料)
|
||
<!-- GFM-TOC -->
|
||
|
||
|
||
# 一、概览
|
||
|
||
Java 的 I/O 大概可以分成以下几类：
|
||
|
||
1. 磁盘操作：File
|
||
2. 字节操作：InputStream 和 OutputStream
|
||
3. 字符操作：Reader 和 Writer
|
||
4. 对象操作：Serializable
|
||
5. 网络操作：Socket
|
||
6. 新的输入/输出：NIO
|
||
|
||
# 二、磁盘操作
|
||
|
||
File 类可以用于表示文件和目录，但是它只用于表示文件的信息，而不表示文件的内容。
|
||
|
||
# 三、字节操作
|
||
|
||
<div align="center"> <img src="../pics//DP-Decorator-java.io.png" width="500"/> </div><br>
|
||
|
||
Java I/O 使用了装饰者模式来实现。以 InputStream 为例，InputStream 是抽象组件，FileInputStream 是 InputStream 的子类，属于具体组件，提供了字节流的输入操作。FilterInputStream 属于抽象装饰者，装饰者用于装饰组件，为组件提供额外的功能，例如 BufferedInputStream 为 FileInputStream 提供缓存的功能。
|
||
|
||
实例化一个具有缓存功能的字节流对象时，只需要在 FileInputStream 对象上再套一层 BufferedInputStream 对象即可。
|
||
|
||
```java
|
||
BufferedInputStream bis = new BufferedInputStream(new FileInputStream(file));
|
||
```
|
||
|
||
DataInputStream 装饰者提供了对更多数据类型进行输入的操作，比如 int、double 等基本类型。
|
||
|
||
批量读入文件内容到字节数组：
|
||
|
||
```java
|
||
byte[] buf = new byte[20*1024];
|
||
int bytes = 0;
|
||
// 最多读取 buf.length 个字节，返回的是实际读取的个数，返回 -1 的时候表示读到 eof，即文件尾
|
||
while((bytes = in.read(buf, 0 , buf.length)) != -1) {
|
||
// ...
|
||
}
|
||
```
|
||
|
||
# 四、字符操作
|
||
|
||
不管是磁盘还是网络传输，最小的存储单元都是字节，而不是字符，所以 I/O 操作的都是字节而不是字符。但是在程序中操作的通常是字符形式的数据，因此需要提供对字符进行操作的方法。
|
||
|
||
InputStreamReader 实现从文本文件的字节流解码成字符流；OutputStreamWriter 实现字符流编码成为文本文件的字节流。它们继承自 Reader 和 Writer。
|
||
|
||
编码就是把字符转换为字节，而解码是把字节重新组合成字符。
|
||
|
||
```java
|
||
byte[] bytes = str.getBytes(encoding); // 编码
|
||
String str = new String(bytes, encoding)； // 解码
|
||
```
|
||
|
||
如果编码和解码过程使用不同的编码方式那么就出现了乱码。
|
||
|
||
- GBK 编码中，中文占 2 个字节，英文占 1 个字节；
|
||
- UTF-8 编码中，中文占 3 个字节，英文占 1 个字节；
|
||
- UTF-16be 编码中，中文和英文都占 2 个字节。
|
||
|
||
UTF-16be 中的 be 指的是 Big Endian，也就是大端。相应地也有 UTF-16le，le 指的是 Little Endian，也就是小端。
|
||
|
||
Java 使用双字节编码 UTF-16be，这不是指 Java 只支持这一种编码方式，而是说 char 这种类型使用 UTF-16be 进行编码。char 类型占 16 位，也就是两个字节，Java 使用这种双字节编码正是为了让一个中文或者一个英文都能使用一个 char 来存储。
|
||
|
||
# 五、对象操作
|
||
|
||
序列化就是将一个对象转换成字节序列，方便存储和传输。
|
||
|
||
序列化：ObjectOutputStream.writeObject()
|
||
|
||
反序列化：ObjectInputStream.readObject()
|
||
|
||
序列化的类需要实现 Serializable 接口，它只是一个标准，没有任何方法需要实现。
|
||
|
||
transient 关键字可以使一些属性不会被序列化。
|
||
|
||
**ArrayList 序列化和反序列化的实现** ：ArrayList 中存储数据的数组是用 transient 修饰的，因为这个数组是动态扩展的，并不是所有的空间都被使用，因此就不需要所有的内容都被序列化。通过重写序列化和反序列化方法，使得可以只序列化数组中有内容的那部分数据。
|
||
|
||
```java
|
||
private transient Object[] elementData;
|
||
```
|
||
|
||
# 六、网络操作
|
||
|
||
Java 中的网络支持：
|
||
|
||
1. InetAddress：用于表示网络上的硬件资源，即 IP 地址；
|
||
2. URL：统一资源定位符，通过 URL 可以直接读取或者写入网络上的数据；
|
||
3. Sockets：使用 TCP 协议实现网络通信；
|
||
4. Datagram：使用 UDP 协议实现网络通信。
|
||
|
||
## InetAddress
|
||
|
||
没有公有构造函数，只能通过静态方法来创建实例。
|
||
|
||
```java
|
||
InetAddress.getByName(String host);
|
||
InetAddress.getByAddress(byte[] addr);
|
||
```
|
||
|
||
## URL
|
||
|
||
可以直接从 URL 中读取字节流数据
|
||
|
||
```java
|
||
URL url = new URL("http://www.baidu.com");
|
||
InputStream is = url.openStream(); // 字节流
|
||
InputStreamReader isr = new InputStreamReader(is, "utf-8"); // 字符流
|
||
BufferedReader br = new BufferedReader(isr);
|
||
String line = br.readLine();
|
||
while (line != null) {
|
||
System.out.println(line);
|
||
line = br.readLine();
|
||
}
|
||
br.close();
|
||
isr.close();
|
||
is.close();
|
||
```
|
||
|
||
## Sockets
|
||
|
||
- ServerSocket：服务器端类
|
||
- Socket：客户端类
|
||
- 服务器和客户端通过 InputStream 和 OutputStream 进行输入输出。
|
||
|
||
<div align="center"> <img src="../pics//ClienteServidorSockets1521731145260.jpg"/> </div><br>
|
||
|
||
## Datagram
|
||
|
||
- DatagramPacket：数据包类
|
||
- DatagramSocket：通信类
|
||
|
||
# 七、NIO
|
||
|
||
- [Java NIO Tutorial](http://tutorials.jenkov.com/java-nio/index.html)
|
||
- [Java NIO 浅析](https://tech.meituan.com/nio.html)
|
||
- [IBM: NIO 入门](https://www.ibm.com/developerworks/cn/education/java/j-nio/j-nio.html)
|
||
|
||
新的输入/输出 (NIO) 库是在 JDK 1.4 中引入的。NIO 弥补了原来的 I/O 的不足，提供了高速的、面向块的 I/O。
|
||
|
||
## 流与块
|
||
|
||
I/O 与 NIO 最重要的区别是数据打包和传输的方式，I/O 以流的方式处理数据，而 NIO 以块的方式处理数据。
|
||
|
||
面向流的 I/O 一次处理一个字节数据，一个输入流产生一个字节数据，一个输出流消费一个字节数据。为流式数据创建过滤器非常容易，链接几个过滤器，以便每个过滤器只负责复杂处理机制的一部分。不利的一面是，面向流的 I/O 通常相当慢。
|
||
|
||
面向块的 I/O 一次处理一个数据块，按块处理数据比按流处理数据要快得多。但是面向块的 I/O 缺少一些面向流的 I/O 所具有的优雅性和简单性。
|
||
|
||
I/O 包和 NIO 已经很好地集成了，java.io.\* 已经以 NIO 为基础重新实现了，所以现在它可以利用 NIO 的一些特性。例如，java.io.\* 包中的一些类包含以块的形式读写数据的方法，这使得即使在面向流的系统中，处理速度也会更快。
|
||
|
||
## 通道与缓冲区
|
||
|
||
### 1. 通道
|
||
|
||
通道 Channel 是对原 I/O 包中的流的模拟，可以通过它读取和写入数据。
|
||
|
||
通道与流的不同之处在于，流只能在一个方向上移动，(一个流必须是 InputStream 或者 OutputStream 的子类)，而通道是双向的，可以用于读、写或者同时用于读写。
|
||
|
||
通道包括以下类型：
|
||
|
||
- FileChannel：从文件中读写数据；
|
||
- DatagramChannel：通过 UDP 读写网络中数据；
|
||
- SocketChannel：通过 TCP 读写网络中数据；
|
||
- ServerSocketChannel：可以监听新进来的 TCP 连接，对每一个新进来的连接都会创建一个 SocketChannel。
|
||
|
||
### 2. 缓冲区
|
||
|
||
发送给一个通道的所有数据都必须首先放到缓冲区中，同样地，从通道中读取的任何数据都要先读到缓冲区中。也就是说，不会直接对通道进行读写数据，而是要先经过缓冲区。
|
||
|
||
缓冲区实质上是一个数组，但它不仅仅是一个数组。缓冲区提供了对数据的结构化访问，而且还可以跟踪系统的读/写进程。
|
||
|
||
缓冲区包括以下类型：
|
||
|
||
- ByteBuffer
|
||
- CharBuffer
|
||
- ShortBuffer
|
||
- IntBuffer
|
||
- LongBuffer
|
||
- FloatBuffer
|
||
- DoubleBuffer
|
||
|
||
## 缓冲区状态变量
|
||
|
||
- capacity：最大容量；
|
||
- position：当前已经读写的字节数；
|
||
- limit：还可以读写的字节数。
|
||
|
||
状态变量的改变过程举例：
|
||
|
||
① 新建一个大小为 8 个字节的缓冲区，此时 position 为 0，而 limit = capacity = 8。capacity 变量不会改变，下面的讨论会忽略它。
|
||
|
||
<div align="center"> <img src="../pics//1bea398f-17a7-4f67-a90b-9e2d243eaa9a.png"/> </div><br>
|
||
|
||
② 从输入通道中读取 5 个字节数据写入缓冲区中，此时 position 移动设置为 5，limit 保持不变。
|
||
|
||
<div align="center"> <img src="../pics//80804f52-8815-4096-b506-48eef3eed5c6.png"/> </div><br>
|
||
|
||
③ 在将缓冲区的数据写到输出通道之前，需要先调用 flip() 方法，这个方法将 limit 设置为当前 position，并将 position 设置为 0。
|
||
|
||
<div align="center"> <img src="../pics//952e06bd-5a65-4cab-82e4-dd1536462f38.png"/> </div><br>
|
||
|
||
④ 从缓冲区中取 4 个字节到输出缓冲中，此时 position 设为 4。
|
||
|
||
<div align="center"> <img src="../pics//b5bdcbe2-b958-4aef-9151-6ad963cb28b4.png"/> </div><br>
|
||
|
||
⑤ 最后需要调用 clear() 方法来清空缓冲区，此时 position 和 limit 都被设置为最初位置。
|
||
|
||
<div align="center"> <img src="../pics//67bf5487-c45d-49b6-b9c0-a058d8c68902.png"/> </div><br>
|
||
|
||
## 文件 NIO 实例
|
||
|
||
以下展示了使用 NIO 快速复制文件的实例：
|
||
|
||
```java
|
||
public class FastCopyFile {
|
||
public static void main(String args[]) throws Exception {
|
||
|
||
String inFile = "data/abc.txt";
|
||
String outFile = "data/abc-copy.txt";
|
||
|
||
// 获得源文件的输入字节流
|
||
FileInputStream fin = new FileInputStream(inFile);
|
||
// 获取输入字节流的文件通道
|
||
FileChannel fcin = fin.getChannel();
|
||
|
||
// 获取目标文件的输出字节流
|
||
FileOutputStream fout = new FileOutputStream(outFile);
|
||
// 获取输出字节流的通道
|
||
FileChannel fcout = fout.getChannel();
|
||
|
||
// 为缓冲区分配 1024 个字节
|
||
ByteBuffer buffer = ByteBuffer.allocateDirect(1024);
|
||
|
||
while (true) {
|
||
// 从输入通道中读取数据到缓冲区中
|
||
int r = fcin.read(buffer);
|
||
// read() 返回 -1 表示 EOF
|
||
if (r == -1)
|
||
break;
|
||
// 切换读写
|
||
buffer.flip();
|
||
// 把缓冲区的内容写入输出文件中
|
||
fcout.write(buffer);
|
||
// 清空缓冲区
|
||
buffer.clear();
|
||
}
|
||
}
|
||
}
|
||
```
|
||
|
||
## 选择器
|
||
|
||
一个线程 Thread 使用一个选择器 Selector 通过轮询的方式去检查多个通道 Channel 上的事件，从而让一个线程就可以处理多个事件。
|
||
|
||
因为创建和切换线程的开销很大，因此使用一个线程来处理多个事件而不是一个线程处理一个事件具有更好的性能。
|
||
|
||
<div align="center"> <img src="../pics//4d930e22-f493-49ae-8dff-ea21cd6895dc.png"/> </div><br>
|
||
|
||
### 1. 创建选择器
|
||
|
||
```java
|
||
Selector selector = Selector.open();
|
||
```
|
||
|
||
### 2. 将通道注册到选择器上
|
||
|
||
```java
|
||
ServerSocketChannel ssChannel = ServerSocketChannel.open();
|
||
ssChannel.configureBlocking(false);
|
||
ssChannel.register(selector, SelectionKey.OP_ACCEPT);
|
||
```
|
||
|
||
通道必须配置为非阻塞模式，否则使用选择器就没有任何意义了，因为如果通道在某个事件上被阻塞，那么服务器就不能响应其它时间，必须等待这个事件处理完毕才能去处理其它事件，显然这和选择器的作用背道而驰。
|
||
|
||
在将通道注册到选择器上时，还需要指定要注册的具体事件，主要有以下几类：
|
||
|
||
- SelectionKey.OP_CONNECT
|
||
- SelectionKey.OP_ACCEPT
|
||
- SelectionKey.OP_READ
|
||
- SelectionKey.OP_WRITE
|
||
|
||
它们在 SelectionKey 的定义如下：
|
||
|
||
```java
|
||
public static final int OP_READ = 1 << 0;
|
||
public static final int OP_WRITE = 1 << 2;
|
||
public static final int OP_CONNECT = 1 << 3;
|
||
public static final int OP_ACCEPT = 1 << 4;
|
||
```
|
||
|
||
可以看出每个事件可以被当成一个位域，从而组成事件集整数。例如：
|
||
|
||
```java
|
||
int interestSet = SelectionKey.OP_READ | SelectionKey.OP_WRITE;
|
||
```
|
||
|
||
### 3. 监听事件
|
||
|
||
```java
|
||
int num = selector.select();
|
||
```
|
||
|
||
使用 select() 来监听事件到达，它会一直阻塞直到有至少一个事件到达。
|
||
|
||
### 4. 获取到达的事件
|
||
|
||
```java
|
||
Set<SelectionKey> keys = selector.selectedKeys();
|
||
Iterator<SelectionKey> keyIterator = keys.iterator();
|
||
while (keyIterator.hasNext()) {
|
||
SelectionKey key = keyIterator.next();
|
||
if (key.isAcceptable()) {
|
||
// ...
|
||
} else if (key.isReadable()) {
|
||
// ...
|
||
}
|
||
keyIterator.remove();
|
||
}
|
||
```
|
||
|
||
### 5. 事件循环
|
||
|
||
因为一次 select() 调用不能处理完所有的事件，并且服务器端有可能需要一直监听事件，因此服务器端处理事件的代码一般会放在一个死循环内。
|
||
|
||
```java
|
||
while (true) {
|
||
int num = selector.select();
|
||
Set<SelectionKey> keys = selector.selectedKeys();
|
||
Iterator<SelectionKey> keyIterator = keys.iterator();
|
||
while (keyIterator.hasNext()) {
|
||
SelectionKey key = keyIterator.next();
|
||
if (key.isAcceptable()) {
|
||
// ...
|
||
} else if (key.isReadable()) {
|
||
// ...
|
||
}
|
||
keyIterator.remove();
|
||
}
|
||
}
|
||
```
|
||
|
||
## 套接字 NIO 实例
|
||
|
||
```java
|
||
public class NIOServer {
|
||
|
||
public static void main(String[] args) throws IOException {
|
||
Selector selector = Selector.open();
|
||
|
||
ServerSocketChannel ssChannel = ServerSocketChannel.open();
|
||
ssChannel.configureBlocking(false);
|
||
ssChannel.register(selector, SelectionKey.OP_ACCEPT);
|
||
|
||
ServerSocket serverSocket = ssChannel.socket();
|
||
InetSocketAddress address = new InetSocketAddress("127.0.0.1", 8888);
|
||
serverSocket.bind(address);
|
||
|
||
while (true) {
|
||
selector.select();
|
||
Set<SelectionKey> keys = selector.selectedKeys();
|
||
Iterator<SelectionKey> keyIterator = keys.iterator();
|
||
while (keyIterator.hasNext()) {
|
||
SelectionKey key = keyIterator.next();
|
||
if (key.isAcceptable()) {
|
||
ServerSocketChannel ssChannel1 = (ServerSocketChannel) key.channel();
|
||
// 服务器会为每个新连接创建一个 SocketChannel
|
||
SocketChannel sChannel = ssChannel1.accept();
|
||
sChannel.configureBlocking(false);
|
||
// 这个新连接主要用于从客户端读取数据
|
||
sChannel.register(selector, SelectionKey.OP_READ);
|
||
} else if (key.isReadable()) {
|
||
SocketChannel sChannel = (SocketChannel) key.channel();
|
||
System.out.println(readDataFromSocketChannel(sChannel));
|
||
sChannel.close();
|
||
}
|
||
keyIterator.remove();
|
||
}
|
||
}
|
||
}
|
||
|
||
private static String readDataFromSocketChannel(SocketChannel sChannel) throws IOException {
|
||
ByteBuffer buffer = ByteBuffer.allocate(1024);
|
||
StringBuffer data = new StringBuffer();
|
||
while (true) {
|
||
buffer.clear();
|
||
int n = sChannel.read(buffer);
|
||
if (n == -1)
|
||
break;
|
||
buffer.flip();
|
||
int limit = buffer.limit();
|
||
char[] dst = new char[limit];
|
||
for (int i = 0; i < limit; i++)
|
||
dst[i] = (char) buffer.get(i);
|
||
data.append(dst);
|
||
buffer.clear();
|
||
}
|
||
return data.toString();
|
||
}
|
||
}
|
||
```
|
||
|
||
```java
|
||
public class NIOClient {
|
||
|
||
public static void main(String[] args) throws IOException {
|
||
Socket socket = new Socket("127.0.0.1", 8888);
|
||
OutputStream out = socket.getOutputStream();
|
||
String s = "hello world";
|
||
out.write(s.getBytes());
|
||
out.close();
|
||
}
|
||
}
|
||
```
|
||
|
||
## 内存映射文件
|
||
|
||
内存映射文件 I/O 是一种读和写文件数据的方法，它可以比常规的基于流或者基于通道的 I/O 快得多。
|
||
|
||
只有文件中实际读取或者写入的部分才会映射到内存中。
|
||
|
||
现代操作系统一般会根据需要将文件的部分映射为内存的部分，从而实现文件系统。Java 内存映射机制只不过是在底层操作系统中可以采用这种机制时，提供了对该机制的访问。
|
||
|
||
向内存映射文件写入可能是危险的，仅只是改变数组的单个元素这样的简单操作，就可能会直接修改磁盘上的文件。修改数据与将数据保存到磁盘是没有分开的。
|
||
|
||
下面代码行将文件的前 1024 个字节映射到内存中，map() 方法返回一个 MappedByteBuffer，它是 ByteBuffer 的子类。因此，您可以像使用其他任何 ByteBuffer 一样使用新映射的缓冲区，操作系统会在需要时负责执行映射。
|
||
|
||
```java
|
||
MappedByteBuffer mbb = fc.map(FileChannel.MapMode.READ_WRITE, 0, 1024);
|
||
```
|
||
|
||
## 对比
|
||
|
||
NIO 与普通 I/O 的区别主要有以下两点：
|
||
|
||
- NIO 是非阻塞的。应当注意，FileChannel 不能切换到非阻塞模式，套接字 Channel 可以。
|
||
- NIO 面向块，I/O 面向流。
|
||
|
||
# 八、参考资料
|
||
|
||
- Eckel B, 埃克尔, 昊鹏, 等. Java 编程思想 [M]. 机械工业出版社, 2002.
|
||
- [IBM: NIO 入门](https://www.ibm.com/developerworks/cn/education/java/j-nio/j-nio.html)
|
||
- [深入分析 Java I/O 的工作机制](https://www.ibm.com/developerworks/cn/java/j-lo-javaio/index.html)
|
||
- [NIO 与传统 IO 的区别](http://blog.csdn.net/shimiso/article/details/24990499)
|
||
- [Decorator Design Pattern](http://stg-tud.github.io/sedc/Lecture/ws13-14/5.3-Decorator.html#mode=document)
|
||
- [Socket Multicast](http://labojava.blogspot.com/2012/12/socket-multicast.html)
|