我写了一个Java应用程序,它从多个线程偶尔地将事件记录到sqlite数据库。我注意到,我可以通过同时产生少量事件相对容易地触发sqlite的“数据库锁定”错误。这使我开始编写一个模拟最坏情况行为的测试程序,而且我在这个用例中表现出来的表现令人惊讶。下面的代码简单地将五个记录添加到数据库中,首先顺序获取“控制”值。然后同时添加相同的五个记录。
import java.sql.*; public class Main { public static void main(String[] args) throws Exception { Class.forName("org.sqlite.JDBC"); Connection conn = DriverManager.getConnection("jdbc:sqlite:test.db"); Statement stat = conn.createStatement(); stat.executeUpdate("drop table if exists people"); stat.executeUpdate("create table people (name,occupation)"); conn.close(); sqlTask tasks[] = { new sqlTask("Gandhi","politics"),new sqlTask("Turing","computers"),new sqlTask("Picaso","artist"),new sqlTask("shakespeare","writer"),new sqlTask("tesla","inventor"),}; System.out.println("Sequential DB access:"); Thread threads[] = new Thread[tasks.length]; for(int i = 0; i < tasks.length; i++) threads[i] = new Thread(tasks[i]); for(int i = 0; i < tasks.length; i++) { threads[i].start(); threads[i].join(); } System.out.println("Concurrent DB access:"); for(int i = 0; i < tasks.length; i++) threads[i] = new Thread(tasks[i]); for(int i = 0; i < tasks.length; i++) threads[i].start(); for(int i = 0; i < tasks.length; i++) threads[i].join(); } private static class sqlTask implements Runnable { String name,occupation; public sqlTask(String name,String occupation) { this.name = name; this.occupation = occupation; } public void run() { Connection conn = null; PreparedStatement prep = null; long startTime = System.currentTimeMillis(); try { try { conn = DriverManager.getConnection("jdbc:sqlite:test.db"); prep = conn.prepareStatement("insert into people values (?,?)"); prep.setString(1,name); prep.setString(2,occupation); prep.executeUpdate(); long duration = System.currentTimeMillis() - startTime; System.out.println(" sql Insert completed: " + duration); } finally { if (prep != null) prep.close(); if (conn != null) conn.close(); } } catch(sqlException e) { long duration = System.currentTimeMillis() - startTime; System.out.print(" sql Insert Failed: " + duration); System.out.println(" sqlException: " + e); } } } }
[java] Sequential DB access: [java] sql Insert completed: 132 [java] sql Insert completed: 133 [java] sql Insert completed: 151 [java] sql Insert completed: 134 [java] sql Insert completed: 125 [java] Concurrent DB access: [java] sql Insert completed: 116 [java] sql Insert completed: 1117 [java] sql Insert completed: 2119 [java] sql Insert Failed: 3001 sqlException: java.sql.sqlException: database locked [java] sql Insert completed: 3136
顺序插入5条记录大约需要750毫秒,我期望并发插入大概花费相同的时间。但是你可以看到给定3秒的超时时间,甚至没有完成。我也在C中编写了一个类似的测试程序,使用sqlite的本机库调用,并在大部分同时插入的时候完成了同时插入。所以问题是我的java库。
这是运行C版本时的输出:
Sequential DB access: sql Insert completed: 126 milliseconds sql Insert completed: 126 milliseconds sql Insert completed: 126 milliseconds sql Insert completed: 125 milliseconds sql Insert completed: 126 milliseconds Concurrent DB access: sql Insert completed: 117 milliseconds sql Insert completed: 294 milliseconds sql Insert completed: 461 milliseconds sql Insert completed: 662 milliseconds sql Insert completed: 862 milliseconds
我尝试使用两个不同的JDBC驱动程序(http://www.zentus.com/sqlitejdbc和http://www.xerial.org/trac/Xerial/wiki/SQLiteJDBC)和sqlite4java包装器。每次结果相似。有没有人知道没有这种行为的java的sqlite库?
这是
core SQLite library的问题,而不是任何Java包装器。 sqlite使用基于文件系统的锁进行进程之间的并发访问同步,因为作为嵌入式数据库,它没有专门的进程(服务器)来调度操作。由于代码中的每个线程都创建了自己与数据库的连接,所以它被视为一个单独的进程,通过基于文件的锁进行同步,这比任何其他同步方法要慢得多。
另外,sqlite不支持每行锁定(还有?)。基本上每个操作的整个数据库文件变为locked。如果您幸运,并且文件系统支持字节范围锁定,则多个读卡器可能会同时访问您的数据库,但您不应该假定这种行为。
核心sqlite库by default allows multiple threads to use the same connection concurrently没有问题。我认为任何理智的JDBC包装器也将允许Java程序中的行为,尽管我还没有实际尝试过。
所以你有两个解决方案:
>在所有线程之间共享相同的JDBC连接。
>由于sqlite开发人员似乎认为是threads are evil,你最好是有一个线程处理所有的数据库操作,并使用Java代码自行序列化DB任务…
您可能想看看this old question of mine – 似乎已经累积了几个提示,以提高sqlite中的更新性能。