–引用部分开始–

引用块内容
Postgresql 的count确实是一大软肋,特别是全表的count.
在9.2以前全表的count只能通过扫描全表来得到,即使有pk也必须扫描全表.
9.2版本增加了index only scan的功能,count(*)可以通过仅仅扫描pk就可以得到.
但是如果是一个比较大的表,pk也是很大的,扫描pk也是个不小的开销.
那么有没有办法来优化count全表的操作呢,如果你的场景真的有必要频繁的count全表,那么可以尝试一下使用以下方法来优化你的场景.
其实非常简单,就是给表建立几个触发器,每次插入,删除,truncate表时触发,将表的记录数更新到一个记录表中.
但是要知道,这样会带来一个问题,并发的插入和删除操作,如果仅仅使用1条记录来存储表的count(*)值的话,会有严重的锁冲突的问题.
例如两个session,同时插入1条记录,在触发触发器时,由于都要更新count表的同一条记录,那么会发生行锁等待.
因此,可以使用多条记录来缓解行锁冲突的问题,如下 :
创建测试表,a,假设要经常count(*) from a.

create table a(id serial4 primary key,info text,crt_time timestamp(0) default now());

创建记录a表记录数的表

create table cnt_a(id int primary key,cnt int);

为了缓解行锁冲突,这里使用了1001条记录来存储count(*) from a的值.

insert into cnt_a select generate_series(0,1000),0;

在计算count(*) a时,使用sum(cnt) from cnt_a就可以了. 因此只需要扫描1001行.
后面会看到当a表的记录数越多,性能提升约明显.
创建插入/删除/truncate触发器

CREATE OR REPLACE FUNCTION public.tg_insert_a() RETURNS trigger LANGUAGE plpgsql AS $function$ declare m_id int;
  rm numeric;
begin select max(id),random() into m_id,rm from cnt_a;
  update cnt_a set cnt=cnt+1 where id=(rm*m_id)::int;
  return null;
end;
$function$;

CREATE OR REPLACE FUNCTION public.tg_delete_a() RETURNS trigger LANGUAGE plpgsql AS $function$ declare m_id int;
  rm numeric;
begin select max(id),rm from cnt_a;
  update cnt_a set cnt=cnt-1 where id=(rm*m_id)::int;
  return null;
end;
$function$;

CREATE OR REPLACE FUNCTION public.tg_truncate_a() RETURNS trigger LANGUAGE plpgsql AS $function$ declare begin update cnt_a set cnt=0 where not cnt=0;
  return null;
end;
$function$;

create trigger tg1 after insert on a for each row execute procedure tg_insert_a();
create trigger tg2 after delete on a for each row execute procedure tg_delete_a();
create trigger tg3 after truncate on a for each statement execute procedure tg_truncate_a();

插入以下记录后，测试完后通过count(*) 和sum(cnt)比对数据是否一致

postgres=# select count(*) from a;
  count  
---------
 1755964
(1 row)
Time: 285.491 ms
postgres=# select sum(cnt) from cnt_a ;
   sum   
---------
 1755964
(1 row)
Time: 0.689 ms

当记录数到达千万级别后,性能以及提升几千倍了.

–引用部分开始–

“德哥@Digoal”又做了一些后续的优化，详情可点击链接自行移步查看：http://blog.163.com/digoal@126/blog/static/163877040201331252945440/

我在实际应用中也发现了其中存在死锁现象，认为是触发器函数中select的“Shared Lock”和update的“Exclusive Lock”竞争产生的。详见我的博客：《Transaction中的SQL死锁》http://www.jb51.cc/article/p-ugjukbzh-zp.html

于是我也做了一些改进，即：假设表cnt_a中的记录数是固定的，所以在insert触发器和delete触发器中，不再从cnt_a中去取max(id)，从而避免了死锁。
改进的触发器函数：

CREATE OR REPLACE FUNCTION tg_insert_a() RETURNS trigger LANGUAGE plpgsql AS $function$ declare rm numeric;
begin select random() into rm;
  update trigger_cnt set cnt=cnt+1 where id=(rm*1000)::int;
  return null;
end;
$function$;

CREATE OR REPLACE FUNCTION tg_delete_a() RETURNS trigger LANGUAGE plpgsql AS $function$ declare rm numeric;
begin select random() into rm;
  update trigger_cnt set cnt=cnt-1 where id=(rm*1000)::int;
  return null;
end;
$function$;

最后值得注意的是：该方法虽然在大数据量的情况下能够大幅提高select count(*)的效率，但是增加了insert和delete时数据库的负担。所以使用时要谨慎综合考虑实际情况再做决定。

Select count(*) 的优化

–引用部分开始–

–引用部分开始–

猜你在找的Postgre SQL相关文章