【友盟+】开发者社区

移动应用统计的基本原理及 友盟UMID 方案解析

匿名开发者  发表于 8 小时前

香布拉啦
香布拉啦 发表于 2014-10-22 10:58:06 | 显示全部楼层 |阅读模式
新增用户统计原理:


简单来说,

Android系统根据IMEI号+MAC地址标识设备(独立用户)的唯一性;iOS系统根据OpenUDID标识设备(用户)的唯一性;WP系统根据ANID标识设备(用户)的唯一性,用户联网启动应用之后才能统计到。


但一个统计平台不可能以简单叠加的方式来统计最基础的用户数量数据,下文介绍了友盟UMID的基本原理和方案解析。


1. 基本概念

根据能否追踪到单个独立的设备, 可以将一个统计系统分为可区分统计(Discriminative Statistics)和不可区分统计(Non-Discriminative Statistics)。友盟提供的是可区分统计,也就是会利用一个身份标识符(Unique ID,以后简称 ID)长期追踪单个设备的数据。作为对比,早期的网站统计都是不可区分统计,例如页面访问次数,独立 IP 数等;现代的网站统计都是基于 Cookie 或硬件指纹的可区分统计。由于智能设备提供了足够多的硬件指纹和计算能力,友盟从第一天开始就专注于可区分统计。

大多数移动统计的 ID 都是通过系统 ID 生成的,包括但不限于 IMEI、MAC、Android ID。最著名的 ID 莫过于 UDID, 迫于隐私的压力,苹果最终废弃了 UDID 和 MAC 地址。

大多数网站统计都是基于 Cookie的,因此是暂态ID(Temporal ID)。OpenUDID 就是一个典型的暂态ID。

苹果的 IDFA 和 IDFV 都是系统ID,但是他们同时也是暂态ID。

由于可区分统计涉及到用户隐私,因此友盟在计算中使用的都不是系统 ID ,而是自己的 UMID。友盟不会向第三方[1]提供包含原始 ID 或 UMID 的数据,而是提供聚合后的结果。UMID 既不是系统ID也不是暂态ID,它是一个在不断演化的ID解决方案。本文将会解释友盟为什么要设计 UMID,又为何要不断地改进这个方案。

2. ID质量

进行可区分统计的基础是确立一个可靠的身份标识符,这看上去是一个很简单的事情,只需要选择一个ID,或者人为构造一个类Cookie ID,就可以完成独立用户量、留存等分析。但遗憾的是,除了苹果已经废除的UDID,几乎没有一个接近完美的ID。

为了方便讨论,首先忽略假数据的存在,假设每个设备都有一个真实的身份标识X。可区分统计的目标是选择一个合适的身份标识I,使得基于I的统计结果尽可能地和 X 一致。

首先,我们引入两个概念ID冲突(Collision)和ID漂移(Jitter)。

ID冲突

对于某个设备集合(Device Cohort),在某个时间段内,总是可以测量 X 和 I 的数量,用 Count(X) 和 Count (I) 来表示。如果在足够短的时间内


[Java] 纯文本查看 复制代码
Count(X) > Count(I)


我们称 I 是一个存在冲突的 ID。

ID漂移

对于某个设备集合(Device Cohort),在某个时间段内,总是可以测量 X 和 I 的数量,用 Count(X) 和 Count (I) 来表示。如果在足够长的时间内


[Java] 纯文本查看 复制代码
Count(X) < Count(I)


则我们称 I 是一个存在漂移的 ID。

Android 设备的IMEI 就是一个存在严重冲突的 ID,根据我们的估算,其冲突率大于 3%。这是因为很多山寨机的IMEI 是相同的。

Android 设备的 MAC 也是一个存在冲突的ID,因为很多山寨机的MAC也是相同的。此外,MAC还是一个典型的存在严重漂移的 ID,这是因为 Android 的源代码中有一段随机生成MAC  地址后24位的代码被滥用了(参考阅读: MAC地址漂移的问题)。

定性分析

接下来,我们可以定性分析一下ID冲突和漂移对统计数据的影响:

当一个ID仅存在冲突的时候,利用这个ID统计的DAU和安装都会被低估,但是有可能会高估留存。但是这些影响都是温和的,例如5% 的ID冲突仅仅会导致DAU至多被低估 5%,而对留存的影响几乎可以忽略。

当一个ID仅存在漂移的时候,利用这个ID统计的DAU和安装都会被高估,同时会影响留存。当漂移较大的时候,对统计指标的影响是剧烈的。例如,一个每日漂移为5%的ID,可能会造成DAU被高估2%,但是会每天造成5%的虚假安装(这是因为漂移会影响所有用户,包括不活跃用户),同时这些虚假安装的留存在短期内偏高,但是长期留存则偏低(短期内没有漂移的时候就会偏高,时间长了,漂移了就会偏低)。任何类Cookie的ID都会有类似的性质,因此传统的网站统计正在全面转向更为可靠的设备指纹。

当一个ID既存在冲突又存在漂移的时候,利用这个ID统计出来的DAU和安装是完全不可靠的。以MAC地址为例,存在漂移的这部分设备的MAC地址会频繁变化,因此会制造大量的虚假安装,同时留存率非常低。对于用户量不大的应用而言,选择存在这类ID的后果是灾难性的。

综上所述,当ID的漂移和冲突足够小的时候,他们对可区分统计的影响都是可以忽略的。当这些误差不可忽略的时候,ID的冲突造成的影响是温和的,而ID的漂移则会严重干扰安装和留存统计。

3. ID选择iOS平台

随着苹果废弃UDID、MAC地址, 并且通过在iOS7上对剪贴板限制导致OpenUDID无法在不同应用间共享,标志着设备ID的控制权回到了苹果手中,也表明了苹果对用户隐私保护的决心。

在后iOS7时代,ID的选择是再清楚不过的,业内通用的ID主要是IDFA(即广告标示符,advertisingIdentifier)和IDFV(即vendor标示符,identifierForVendor)。IDFA适用于对外的广告推广、交叉推荐等跨应用的用户追踪;IDFV适用于用户在应用内的行为追踪。

当然,对于移动统计平台而言,必须要保证统计的兼容性和容错性。这也是为什么我们一直强调的是使用一个不断优化的UMID解决方案,而不是任何一个具体的ID。

Android平台

对于Android平台,由于系统生态的开放性,ID的选择也一直是一个头疼的问题。

(1)单一ID

如前文所述,IMEI和MAC都不是最好的ID。特别是MAC地址,几乎是一个不可用的ID。

(2)组合ID

有些开发者会选择使用多个ID合并成一个组合ID,例如


[Java] 纯文本查看 复制代码
CID = MD5( imei+mac+android_id)


利用前面的分析不难得出,组合ID将会极大地降低冲突,但是会放大漂移。对于组合ID而言,任何一个源ID的漂移都会造成它的漂移。

开发者应该尽量避免CID,一定要使用也需要避免使用MAC地址。如果已经在使用CID,那么请确保在下一个版本把CID当作一个Cookie ID持久化,只有在Cookie丢失的情况下才重新生成CID。这样的策略可以尽量保证ID的延续性,同时缓解漂移造成的影响。

4. 友盟的ID方案UMID

由于UMID还在演化之中,这里只能简单地解释UMID的生命周期。UMID是一个极度保守的ID,当一个设备被分配了某个UMID以后,友盟会尽量保证这个UMID不会发生变化。因此,UMID的生成策略受到了友盟历史数据的限制,最重要的设计目标是确保稳定性和数据一致性。友盟会持续地监控冲突和漂移,并且会尽量降低漂移,将冲突控制在合理的范围内。正如世界上没有永动机一样,UMID并不是一个完美的ID。

Prime Radiant

为进一步的提高ID质量,友盟推出了全新的SDK。这个版本的SDK从设计到发布用了差不多一年,内部代号是 Prime Radiant,来自阿西莫夫的科幻小说。通过Prime Radiant提供的新特性,友盟将能更好地监控ID信号源的质量,并且能够根据实际的数据来调整策略,充分利用设备ID和暂态ID的优势和劣势。Prime Radiant 还充分利用了智能设备的计算能力,利用密码学手段来提高数据质量和可靠性。

正是得益于Prime Radiant 测试阶段的数据,友盟才能精确地对各类ID的质量进行定量分析。本文的很多结论都离不开这些数据。对于关心数据质量和数据安全的开发者,建议升级友盟新版SDK 进行体验、测评。





上一篇:为什么说 MAC 是一个存在严重漂移的 ID ?
下一篇:友盟数据准不准,看看这个帖子才知道!

友盟统计常见问题索引贴【点我】
请大家善用搜索,一个帖子只解答一个问题,多个问题请再开新帖咨询,在论坛上解决一个问题请同时帮助别人解答两个力所能及的问题,谢谢大家!

weimo
weimo 发表于 2016-1-18 09:53:01 | 显示全部楼层
请问下,如果有人恶意修改imei码,那么会算是新用户吗?比如一台手机,不断刷入新的IMEI100次,那么这100次数据到达友盟后台后,是算100个新用户吗?


匿名开发者  发表于 2017-4-19 15:12:14
weimo 发表于 2016-1-18 09:53
请问下,如果有人恶意修改imei码,那么会算是新用户吗?比如一台手机,不断刷入新的IMEI100次,那么这100次 ...

我也想知道这个问题

高级模式
B Color Image Link Quote Code Smilies |上传

本版积分规则

发表主题

精彩推荐

【友盟+】U-ADplus重新定义全媒体广告监测
随着移动互联网和物联网的发展,消费者生活场景在线上、线下多屏设备之间不停切换,媒体的触点也随之变得更
应用信息中的小米、华为通道信息是什么?
这是要填小米和华为开发者平台上申请到的信息吗,作用是什么?
通过友盟后台根据别名推送无法收到
通过友盟后台推送显示成功,但是设备收不到。通过api推送也是如此。 msgId:uu88124150287009116010

关注我们

新浪微博
微信

欢迎关注友盟官方微博微信!

在线客服
返回顶部 返回列表