本文介绍使用 `pd.merge_asof()` 高效实现主 dataframe 与多个子 dataframe 的模糊条件匹配,满足“列值存在性 + 数值差限”双重条件,并安全添加标记列,避免笛卡尔积导致的内存爆炸。
在实际数据分析中,常需基于多层逻辑从辅助表中“查找并标记”主表记录——例如判断某用户是否出现在黑名单中,且其行为时间与黑名单记录相差不超过5分钟。本例即为典型场景:需同时满足两个条件:(1)主表 A 列值存在于任一子表的 BB 列;(2)对应行中主表 B 与子表 AA 的绝对差值
直接使用 merge 或
isin + apply 易引发组合爆炸或性能瓶颈。更优解是采用 pd.merge_asof()——它专为有序、近似匹配设计,支持 by 分组 + tolerance 容差控制,兼具效率与语义清晰性。
以下为完整实现(以单个子表 df1 为例;多个子表可先纵向合并再统一处理):
import pandas as pd
# 构造示例数据
data = [['Tom', 10], ['Nick', 15], ['Juli', 14], ['Tom', 7], ['Juli', 9]]
main_df = pd.DataFrame(data, columns=['A', 'B'])
data1 = [[5, 'Juli'], [17, 'Tom'], [6, 'Juli'], [8, 'Tom']]
df1 = pd.DataFrame(data1, columns=['AA', 'BB'])
# 关键步骤:重命名子表列以对齐主表(BB→A,AA→B),添加标记列C,按B排序
df1_aligned = (df1.rename(columns={'BB': 'A', 'AA': 'B'})
.sort_values('B')
.assign(C='X'))
# 主表准备:重置索引以便后续还原,按B升序排列(merge_asof要求右表有序)
tmp = (pd.merge_asof(
main_df.reset_index().sort_values('B'),
df1_aligned,
on='B', # 按数值列B进行近似匹配
by='A', # 仅在A列值相等的组内查找(满足条件1)
tolerance=5, # 允许B与AA的绝对差≤5(满足条件2)
direction='nearest' # 取最接近的匹配项(非仅向左/右)
).set_index('index')['C']
.fillna('')) # 未匹配则留空
main_df['C'] = tmp
print(main_df)输出结果:
A B C 0 Tom 10 X 1 Nick 15 2 Juli 14 3 Tom 7 X 4 Juli 9 X
✅ 关键要点说明:
⚠️ 注意事项:
该方法在百万级数据上仍保持线性时间复杂度,是替代暴力循环或笛卡尔积的工业级实践方案。
# app
# ai
# 性能瓶颈
# 黑名单
# 排列
# pandas
# 字符串
# 循环
# 数据分析
# 笛卡尔
# 多个
# 升序
# 出现在
# 不超过
# 不支持
# 为例
# 若有
# 专为
# 先用
相关文章:
Python文件管理规范_工程实践说明【指导】
制作公司内部网站有哪些,内网如何建网站?
网站制作费用多少钱,一个网站的运营,需要哪些费用?
企业网站制作费用多少,企业网站空间一般需要多大,费用是多少?
定制建站哪家更专业可靠?推荐榜单揭晓
建站三合一如何选?哪家性价比更高?
如何在Golang中处理模块冲突_解决依赖版本不兼容问题
建站DNS解析失败?如何正确配置域名服务器?
php json中文编码为null的解决办法
c++如何打印函数堆栈信息_c++ backtrace函数与符号名解析【方法】
如何快速查询网址的建站时间与历史轨迹?
建站之星如何助力网站排名飙升?揭秘高效技巧
高端云建站费用究竟需要多少预算?
如何在阿里云购买域名并搭建网站?
建站主机数据库如何配置才能提升网站性能?
如何获取开源自助建站系统免费下载链接?
建站之家VIP精选网站模板与SEO优化教程整合指南
网站制作员失业,怎样查看自己网站的注册者?
如何设计高效校园网站?
如何在Mac上搭建Golang开发环境_使用Homebrew安装和管理Go版本
如何快速搭建高效WAP手机网站?
GML (Geography Markup Language)是什么,它如何用XML来表示地理空间信息?
建站之星安全性能如何?防护体系能否抵御黑客入侵?
如何做静态网页,sublimetext3.0制作静态网页?
制作网站的软件免费下载,免费制作app哪个平台好?
中山网站推广排名,中山信息港登录入口?
潮流网站制作头像软件下载,适合母子的网名有哪些?
学校免费自助建站系统:智能生成+拖拽设计+多端适配
C++如何将C风格字符串(char*)转换为std::string?(代码示例)
广东企业建站网站优化与SEO营销核心策略指南
制作网站的公司有哪些,做一个公司网站要多少钱?
如何通过智能用户系统一键生成高效建站方案?
导航网站建站方案与优化指南:一站式高效搭建技巧解析
盐城做公司网站,江苏电子版退休证办理流程?
实现虚拟支付需哪些建站技术支撑?
如何在橙子建站上传落地页?操作指南详解
道歉网站制作流程,世纪佳缘致歉小吴事件,相亲网站身份信息伪造该如何稽查?
详解免费开源的DotNet二维码操作组件ThoughtWorks.QRCode(.NET组件介绍之四)
建站ABC备案流程中有哪些关键注意事项?
电影网站制作价格表,那些提供免费电影的网站,他们是怎么盈利的?
网站制作公司排行榜,四大门户网站排名?
广州建站公司哪家好?十大优质服务商推荐
黑客如何通过漏洞一步步攻陷网站服务器?
如何选择高效稳定的ISP建站解决方案?
C++ static_cast和dynamic_cast区别_C++静态转换与动态类型安全转换
如何在阿里云服务器自主搭建网站?
C++中引用和指针有什么区别?(代码说明)
网站规划与制作是什么,电子商务网站系统规划的内容及步骤是什么?
Android使用GridView实现日历的简单功能
如何快速建站并高效导出源代码?
*请认真填写需求信息,我们会在24小时内与您取得联系。