在 编程语言中,任何 数据类型 都有 各种 的 局限,无法 表示 现实世界中的 任何 情况。 例如 int,char 会 溢出,float 会 有 溢出 以及 精度 不准确的 情况。
所以 我们 在 开发 中 需要 特别 注意 这些事。
最近 需要 在 cocos2dx(2.1.4) 引擎下 用 shader 做一些 效果,遇到 一些 在 windows 上 没有问题,但是 移植到 android 就会 出问题的 现象。记录 下来,一为 加深印象 ,二为 提供 遇到 同类 问题 的 博友 参考。
主要 集中 在 两方面:
(1) shader 不支持 不同类型的 数 进行 运算
例如
int a ;
float b ;
float c = a + b;
这个 问题 倒是 还行 ,因为 在 eclipse 里 cocos2dx 会 打印 编译 错误的 log
(2) 浮点型 溢出问题,这种 问题 会 比较 难解决,我也是 慢慢试出来的
首先 看看 shader 精度的 一些 最低范围
下面 是我的 部分 shader 源码:
<span style="font-size:18px;">//varying vec4 v_fragmentColor; varying vec2 v_texCoord; uniform float u_radius; uniform vec2 u_touchPos; uniform vec2 u_bgSize; uniform sampler2D CC_Texture0; float isInCircle(){ vec2 pos = u_bgSize * v_texCoord; float dis = distance(pos,u_touchPos); if(dis >= u_radius || u_radius == 0.0) return 1.0; else return 0.0; } void main() { vec4 texColor = texture2D(CC_Texture0,v_texCoord); float isIn = isInCircle(); gl_FragColor = texColor * isIn; }</span>
错误 集中在float dis = distance(pos,u_touchPos);
distance是 求 屏幕中的 两个点的 距离, 我估计 它 的 形式 大致 是 这样的
float distance(vec2 pos1,vec2 pos2){
vec3 sub = pos1 - pos2;
return sqrt(sub.x * sub.x + sub.y * sub.y);
}
由于 cocos2dx 会 默认 设置 顶点着色器 使用 高精度 float,片元着色器 使用 中等 精度 float,(我这段代码 是 片元着色器的 代码),
所以 float 的 范围 在-16384 ~ 16384 之间, 当 两个 百位数 相乘 很有可能 造成 溢出。
<span style="font-size:18px;">//varying vec4 v_fragmentColor; varying vec2 v_texCoord; uniform float u_radius; uniform highp vec2 u_touchPos; uniform vec2 u_bgSize; uniform sampler2D CC_Texture0; float isInCircle(){ highp vec2 pos = u_bgSize * v_texCoord; float dis = distance(pos,u_touchPos); if(dis >= u_radius) return 1.0; else return 0.0; } void main() { vec4 texColor = texture2D(CC_Texture0,v_texCoord); float isIn = isInCircle(); gl_FragColor = texColor * isIn; }</span>