分片区块链 mini 综述发表在 IEEE ComMag

杨青林,黄华威, 2024 年 11 月 06 日

研究组一篇题目为 “The State-of-the-Art and Promising Future of Blockchain Sharding” 的论文近日被 IEEE Communications Magazine (ComMag) 接收。IEEE Communications Magazine 是计算机领域高水平国际期刊,重点专注工程技术-网络通讯领域的新研究,旨在促进和传播该领域相关的新技术和新知识。ComMag 最新影响因子为 8.3,是中科院 SCI 二区期刊。

论文首页截图

论文信息

Yang, Qinglin (杨青林), Huang, Huawei (黄华威,通讯作者), Yin, Zhaokang (殷昭伉), Lin, Yue (林岳), Chen, Qinde (陈钦德), Luo, Xiaofei (罗肖飞), Li, Taotao (李涛涛), Liu, Xiulong (刘秀龙), Zheng, Zibin (郑子彬), “The State-of-the-Art and Promising Future of Blockchain Sharding,” IEEE Communications Magazine, Nov 04, 2024, pp. 1-7.

分片技术在区块链可扩展性研究方向的地位


论文内容简介

区块链分片是提升区块链系统可扩展性的重要技术分支。它被认为是在不破坏区块链去中心化特性的情况下,能够实现链上扩容、显著提升区块链可扩展性的潜在解决方案之一。为了给区块链分片的研究提供参考,并激发学术界和工业界的参与,我们梳理了近三年来发表的关于区块链分片的部分最新研究。本文还进行了实验,展示了具有代表性的分片协议,如Monoxide、LBF、Metis和BrokerChain的性能。最后,我们从Web3、元宇宙和去中心化金融(DeFi)等新兴应用对高吞吐量的迫切需求出发,展望了分片技术的潜在挑战和美好未来。我们希望这篇文章能对研究人员、工程师、教育工作者有所帮助,并对区块链分片领域的后续研究有所启发。


论文下载

黄华威近期受邀讲座

记录学术生涯的受邀学术报告。黄华威,更新于 2024 年 11 月 14 日。

– Nov, 2024: 黄华威老师受邀参加了多次学术报告、论坛报告,包括在港科广举办的 FinTech workshop 2024、香港岭南大学区块链讲座、中国电子学会区块链年会举办的2024 区块链和 Web3.0 技术创新与应用交流大会-新金设施论坛,报告主题为研究组正在推进落地的区块链金融项目 BrokerFi。

香港岭南大学区块链邀请报告证书(英文学术报告)
香港科技大学(广州) FinTech Workshop 2024 邀请报告证书(英文学术报告)

– Aug 09, 2024: 黄华威受电子科技大学交子区块链研究院的邀请 to give a talk titled 《分片区块链的研究 —— 以 Layer1 公链为目标》。

邀请函

– 2024 CCF中国区块链技术与应用高峰论坛,2024年8月2-4日在内蒙古呼和浩特举办。黄华威受邀在论坛「Web3.0和元宇宙技术及应用专题论坛」发表学术演讲《区块链与Web3如何支撑元宇宙的思考与尝试》。

8月3号,呼和浩特,CCF 区块链大会论坛报告
证书

– 2024年7月21日-22日,华东师范大学第十一届数据科学与工程暑期学校第四天、第五天,邀请到了中山大学的黄华威教授为同学们带来关于 “区块链交易分片执行” 与 “实验: 分片区块链实验平台演示” 的精彩课程。[7月21日课程公众号文章介绍] [7月22号课程公众号文章介绍]

7月21日,华东师范大学第十一届数据科学与工程暑期学校第四天,黄华威讲述 “区块链交易分片执行” 课程
7月22日,华东师范大学第十一届数据科学与工程暑期学校第5天,黄华威讲述 “实验: 分片区块链实验平台演示” 课程

– June 22, 2024: 黄华威老师受邀参加2024年6月21-23日在吉林长春举行的 2024 CSIAM 区块链技术与应用高峰论坛,并在“区块链共识与交易安全前沿分论坛”中做题为《分片区块链的性能优化研究:为 Web3 构建基础设施》的学术报告。[ 论坛介绍 ]

讲者证书

– 2024年6月13日,国家区块链技术创新中心组织了“区块链网络体系结构研讨会”,会议面向跨域交互多、计算规模大、数据管理复杂、性能与扩展性要求高等特征的区块链网络的体系结构展开交流研讨,多位来自全国各地的高校及科研院所专家参与本次会议。中山大学副教授黄华威作了“分片区块链科研进展及其未来应用生态的思考”的专题报告。【公众号文章链接

黄华威 gave “分片区块链科研进展及其未来应用生态的思考”的专题报告

不问出身,但行世事。与君共勉。

实验室在香港举办区块链学术论坛

Huawei Huang, 2024 May 16

2024年5月11-12日,中国计算机学会第17届服务科学国际会议(CCF 17th International Conference on Service Science, CCF ICSS 2024)在香港理工大学举办。5月11日下午,实验室在本次会议举办了以“区块链、可信计算和服务”(Blockchain, Trustworthy Computing, and Services)为主题的学术论坛。

论坛简介

本论坛专注于区块链、可信计算和服务。旨在为参会专家学者提供一个分享前沿新颖的学术观点以及交流合作的平台,共同探索区块链系统、可信执行环境、DeFi等最新进展和发展趋势。本技术论坛邀请了4位区块链和人工智能领域的知名专家学者进行主题演讲,使用语言为英语,演讲内容涵盖:区块链底层协议设计、鲁棒机器学习算法、基于可信执行环境的隐私保护技术、基于区块链的DeFi服务安全。论坛主席是黄华威副教授。

论坛主席 黄华威

论坛邀请的4位专家分别是:

  • 肖斌,香港理工大学教授,报告题目《Security of DeFi Services Based on Blockchain》
  • 戴弘宁,香港浸会大学副教授,报告题目《Porygon: Scaling Blockchain via 3D Parallelism》
  • 李钰鹏,香港浸会大学助理教授,报告题目《Toward a Trustworthy Digital Future: Robust Online Machine Learning and Intelligent Fact-Checking》
  • 牛健宇,南方科技大学研究助理教授,报告题目《When Web3 Meets TEEs: Opportunities and Challenges》
肖斌老师与论坛主持人黄华威

戴弘宁老师与论坛主持人黄华威

李钰鹏老师与论坛主持人黄华威

牛健宇老师与论坛主持人黄华威

参会观众与肖斌老师热烈讨论

参会观众与李钰鹏老师热烈讨论

论坛结束后,专家讲者与来自中山大学软件工程学院的师生、部分观众的合影

本次论坛更多的照片,请访问:https://acd.alltuu.com/mobile/large/1003451155/?mode=release

会议方向黄华威老师颁发的致谢证书

论坛主席介绍

黄华威,中山大学软件工程学院副教授,博导,入选2023年度全球前2% 顶尖科学家榜单,IEEE Senior Member,CCF高级会员。取得日本会津大学计算机科学与工程博士学位。研究方向包括区块链系统、Web3、元宇宙、分布式系统与协议。近五年区块链相关的研究成果发表在高水平国际学术会议与期刊,如 ToN, TPDS, INFOCOM, ICDCS 等,论文谷歌学术引用5500。曾在国际期刊组织6次区块链/Web3专刊;曾担任十余个国内外学术会议与学术论坛研讨会的组织主席。主持科技部与广东省重点研发计划课题,国自然面上青年、CCF-华为胡杨林基金区块链专项等十余项科研项目。出版区块链英文学术著作《From Blockchain to Web3 & Metaverse》、《Blockchain Scalability》与区块链书籍《从区块链到Web3:构建未来互联网生态》,开源了区块链实验平台blockEmulator.com。

BlockEmulator 是一个可支持多种共识协议与跨分片机制的区块链协议验证平台,由InPlusLab· 黄华威研究组开发并开源。

BlockEmulator首页:https://www.blockemulator.com

该实验平台主要面向区块链研究人员,当他们需要对提出的新型区块链共识协议、新型跨分片机制进行验证时,可以帮助用户快速搭建一个轻量化的区块链底层协议的实验平台,并对实验数据进行收集,方便绘制科研论文所需的实验图。

BlockEmulator实现了区块链的底层技术框架,不仅可以帮助初学者快速入门及加深理解区块链底层运行原理,也能为区块链研究者提供一个完整的区块链新型协议机制的开发和测试环境。它可以降低开发和测试一个区块链新协议的成本和难度,为研究人员提供可定制化的二次开发环境,可加速区块链技术的创新。

黄华威受邀参加两个区块链与Web3论坛发布 BrokerFi

2023-12-28

2023年12月份,黄华威老师受邀参加了两个区块链与Web3.0的学术会议论坛,分别记录如下。

  • 2023年12月17日,2023 CCF中国区块链技术与应用高峰论坛,信创海河实验室与北京交通大学承办的「元宇宙和Web3.0:前沿技术与产业发展」分论坛,地点海南。
  • 2023年12月24日,2023(第一届)大湾区计算机创新技术大会,「Web3.0、人工智能架构与可靠性关键技术」分论坛,地点珠海市。
2023年12月17日,2023 CCF中国区块链技术与应用高峰论坛,「元宇宙和Web3.0:前沿技术与产业发展」分论坛嘉宾:北京大学教授、元宇宙技术研究所所长 陈钟,中国信息通信研究院云计算与大数据研究所副主任 庞伟伟,南方科技大学教授、国家级青年人才 张殷乾,长虹信息安全实验室资深专家 黄德俊,中山大学副教授 黄华威,大有云钞科技有限公司总裁&CEO 李立中,中移互联网有限公司云产品事业部研发总监 张云。论坛主席为北京交通大学副教授 李超,中国传媒大学教授 范永开。

2023年12月17日,黄华威老师在「元宇宙和Web3.0:前沿技术与产业发展」分论坛演讲。

特邀报告感谢状

2023年12月24日,黄华威老师在2023(第一届)大湾区计算机创新技术大会「Web3.0、人工智能架构与可靠性关键技术」分论坛演讲

在这两个技术论坛,黄华威老师首次向外界发布了 HuangLab 的最新研究成果——“BrokerFi : 构建在分片区块链基础之上的 DeFi 协议”。

黄华威老师的报告首页

报告摘要:可扩展性已经成为区块链底层一个关键研究方向。学术界已经提出了若干具有代表性的方案来提升区块链可扩展性,比如有向无环图技术、分片技术、新型共识机制、状态通道、侧链、跨链等等方案。其中,分片技术被认为是一个非常有潜力可大幅度提高区块链可扩展性的Layer1扩容方案。本次报告首先梳理了区块链分片技术的研究现状,然后介绍一下黄老师的研究团队基于分片区块链构建的新型 DeFi 协议 — BrokerFi。

演讲报告 (PDF) 请前往学者网页面下载:https://www.scholat.com/vpost.html?pid=229788

HuangLab 两篇区块链论文被 INFOCOM’24 接收

2023年12月1日,INFOCOM’24 结果公布,HuangLab 两篇区块链分片机制的论文被接收。INFOCOM 全称为 IEEE International Conference on Computer Communications, 是国际上公认的计算机网络领域顶级会议、CCF-A类国际会议,2024年的论文接受率为 256/1307 = 19.58%。


两篇被接收论文信息如下。

  • [论文1] Qinde Chen (陈钦德), Huawei Huang* (黄华威), Zhaokang Yin (殷昭伉), Guang Ye (叶光), Qinglin Yang (杨青林), “Broker2Earn: Towards Maximizing Broker Revenue and System Liquidity for Sharded Blockchains”, IEEE International Conference on Computer Communications (INFOCOM’24), 20–23 May 2024, Vancouver, Canada.
  • [论文2] Huawei Huang (黄华威), YueLin (林岳),  Zibin Zheng*(郑子彬), “Account Migration across Blockchain Shards using Fine-tuned Lock Mechanism”, IEEE International Conference on Computer Communications (INFOCOM’24), 20–23 May 2024, Vancouver, Canada.

点击跳转至 [知乎文章页面] 下载论文的接收版本。


论文1 的一作是陈钦德,中山大学软件工程学院博士一年级同学。陈同学的研究方向为高性能区块链系统。自从2022年加入 HuangLab 之后,陈钦德参与了 HuangLab 多项重要任务,如参与开发开源区块链实验平台 BlockEmulator,负责研究 BrokerChain 分片区块链的激励机制 (即本篇论文提出的方案 Broker2Earn)。

论文2 的二作是林岳,中山大学计算机学院硕士3年级同学。自从2021年加入 HuangLab,林岳同学参与了BlockEmulator 早期版本的开发,重点研究 BrokerChain 分片区块链的账户迁移机制。


两篇论文的背景简介

这两篇论文是继发表在 INFOCOM’22 年 BrokerChain (BrokerChain: A Cross-Shard Blockchain Protocol for Account/Balance-based State Sharding) 的后续扩展工作。BrokerChain发表之后,HuangLab负责人黄老师提出了一个设想:HuangLab要将 BrokerChain完善为一个高性能分片区块链系统,而且还要基于 BrokerChain 开发一个去中心化金融(DeFi)应用 (后来命名为 BrokerFi)。至今,这三篇重要论文构建了 BrokerFi 的后端基础:BrokerChain [INFOCOM’22] 实现了初代分片区块链系统,Broker2Earn [INFOCOM’24]  描述了 BrokerFi 的经济模型,林岳同学设计了 BrokerChain 系统中账户迁移机制 [INFOCOM’24]。此外,HuangLab的技术指导老师林建入带领其他几位同学开发出了前端钱包 BrokerFi wallet。不久的将来,我们将尝试将 BrokerFi 项目落地并推广。   

BrokerFi 整体框架设计

        


两篇论文内容简介          

论文1:Broker2Earn: Towards Maximizing Broker Revenue and System Liquidity for Sharded Blockchains

一、基本思路

分片是保持区块链去中心化特性同时提高区块链可扩展性的一种可行的技术路线。区块链分片的基本思想是将所有区块链节点分成几个分片,每个分片并行处理交易。因此,分片技术可以大大提高区块链网络的吞吐量,并减小交易确认时延。然而,分片技术的引入也带来了新的挑战。首先,在状态分片中(即每个分片维护不同账户的状态),一笔交易涉及到的账户可能在不同的分片中,这种交易通常被称为跨分片交易,与之相反的是片内交易。跨分片交易的处理往往比片内交易更加耗时,因此高比例的跨分片交易会对区块链可扩展性造成影响。

BrokerChain [INFOCOM’22] 协议的一个基本出发点是:“做市商账户(broker account)”可以提供通证给分片区块链使用,以此将一笔“跨分片交易(cross-shard transaction)”巧妙地化解为两笔容易处理的“片内交易(intra-shard transactions)”。如图1所示,broker 账户为分片区块链提供的质押通证可以被视为系统“流动性”。但是 BrokerChain未解决一个关键的问题是:如何有效地吸引足够多的做市商账户参与到 BrokerChain分片区块链的生态。在没有足够的激励时,普通用户没有意愿成为 broker 并主动为分片区块链提供流动性。此外,即使用户提供了大量流动性,如何有效地利用这些流动性来最大化地处理跨分片交易是另一个挑战。   

针对以上挑战,本文设计了Broker2Earn协议,旨在为 BrokerChain 提供一个可以吸引普通用户资源成为 broker 角色的激励方案。该协议有两个目标:1) 最大化做市商账户的收益;2) 提高做市商处理跨分片交易的能力。作者首先将此问题表述为一个 maximization problem,并且证明该最大化问题是一个NP-hard问题。为了解决这个问题,本文采用“随机舍入”技术设计了一种近似在线算法,保证了Broker2Earn的实用性。未来,作者计划将Broker2Earn协议作为一个 DeFi产品推向市场。

图1. Broker2Earn 协议如何在BrokerChain分片区块链发挥作用

二、本文贡献

  • 本文为分片区块链提出了一种激励机制 Broker2Earn,旨在吸引普通钱包用户成为“做市商”账户,用户可以通过质押闲置通证赚取稳定收益。此外,Broker2Earn方案为分片区块链BrokerChain实现了去中心化金融(DeFi)的模块,因为做市商账户质押的通证可以为分片区块链系统提供流动性,用于减少分片区块链内部的跨分片交易。
  • 本文将 BrokerChain系统招募做市商账户的问题描述为一个优化问题,目标是最大化做市商收益的同时尽量减少跨分片交易的数量。为了解决这个NP-hard问题,本文设计了一个基于Relax-and-Rounding方法的online近似算法。该算法能够在线实时运行,并且本文对该算法进行了严格的最优性近似比证明分析。   
  • 作者在开源区块链实验平台BlockEmulator中实现了Broker2Earn协议,并使用以太坊的历史交易进行了广泛的性能评估。实验结果证实了Broker2Earn协议的有效性和实用性。

论文2:Account Migration across Blockchain Shards using Fine-tuned Lock Mechanism

一、基本思路         

在一个分片区块链中(如 BrokerChain),分片负载不均衡会对区块链的性能造成影响。当各分片处理交易的速度一致时,分片负载不均衡会导致一些拥挤的分片中有大量交易在等待被处理,而其他分片则处于空闲状态,这样就没有很好地利用分片技术带来的好处。

图1.  不同的账户分配方案产生不同的分片负载

而进行账户重划分是一个较为可行的解决上述挑战的手段。账户重划分是通过图分割算法或社区检测算法,将交互多的一批账户迁移到同一个分片可以降低跨分片交易比例,同时也可以达到分片负载均衡的效果。通过调研现有的区块链分片相关的工作,我们发现对于分片区块链的账户重划分的研究尚处于很初始的阶段,目前只发现有一篇论文提出了可行的账户迁移的实现机制。然而在这个机制(叫做SOTA-Lock)中,账户在被迁移的过程中,账户的状态数据会被锁住,涉及到的交易将无法被系统及时处理,因此这些交易的确认时延相对较长。本文展示我们提出的一种新的账户迁移的实现机制(叫做Fine-tune Lock),旨在减小账户迁移对关联交易的影响。

在本文提出的Fine-tune Lock机制中,对于正在迁移中的账户,执行扣钱操作的交易(Payer TX)仍然会被锁住,不能被执行;但收钱方的交易(Payee TX)可以被执行。采用这种细粒度的锁机制可以减轻账户迁移对其关联交易的影响。             

图2. SOTA Lock 与所提出的 Fine-tune Lock 机制之间的对比。①: 触发账户迁移,一个目标账户从分片#1 迁移至分片 #2。②: 锁操作开始。③: 将被迁移账户的旧状态数据发送到分片#2.

二、本文贡献

  • 本文提出了一种使用细粒度锁的账户迁移协议(Fine-tuned Lock),它可以减轻账户迁移对其关联交易的影响。
  • 为了实现账户迁移,本文设计了新的账户状态和区块的数据结构。并且对传统的 relay transaction 机制进行了修改,解决账户迁移过程中可能出现的安全漏洞。
  • 我们在自行开发的区块链实验平台blockEmulator上对账户迁移机制 Fine-tuned Lock做了原型系统的实现,并将其部署在腾讯云服务器中。实验结果表明,在被迁移账户的关联交易的确认时延方面,本文提出的方法优于 SOTA Lock方法。

团队介绍    

HuangLab 是中山大学软件工程学院的一个研究团队,专注于区块链、Web3、元宇宙和分布式计算/协议等领域的研究。团队成员包括高级研究员、博士后研究员、硕士和博士研究生,他们在区块链技术的理论和应用方面具有丰富的经验。HuangLab 的研究成果广泛发表在顶级期刊和国际会议上,如IEEE/ACM ToN, JSAC, TPDS, TDSC, TMC等,团队成员还出版了《From Blockchain to Web3 & Metaverse》、《Blockchain Scalability》和《从区块链到Web3: 构建未来互联网生态》等区块链相关书籍。

HuangLab 开发了BlockEmulator,这是一个区块链实验工具,用于验证新的协议和机制,特别是区块链分片协议。该工具支持以太坊历史交易的回放,能自动输出实验日志文件,帮助研究人员收集实验数据并绘制实验图表。BlockEmulator以Go语言实现,支持定制化开发,适用于轻量级区块链系统的实验平台搭建。BlockEmulator 主页:https://www.blockemulator.com  

HuangLab 的研究成果已在多个高水平国际会议上发表,并为区块链研究领域做出了重要贡献。团队的研究工作得到了国家自然科学基金等多个研究基金的支持。HuangLab 致力于推动区块链技术的创新和应用,为区块链技术的发展和广泛应用提供了强有力的支撑。  

黄华威受邀在CNCC论坛发表学术演讲

2023年10月26日,黄华威老师受邀在「CNCC | Web 3.0前沿技术与未来趋势」论坛发表学术演讲,报告题目《为Web3构建基础设施:分片区块链的可扩展性研究》。

该论坛的介绍:https://mp.weixin.qq.com/s/PbaXT9XJCesYKYMmaq3OOA


黄华威老师是中山大学软件工程学院副教授,CCF高级会员、CCF区块链专委会执行委员、CCF分布式与并行计算专委会执行委员。研究方向包括区块链体系架构、Web3、元宇宙、分布式系统与协议。论文谷歌学术引用4500。近三年区块链相关的研究成果发表在高水平国际学术会议与期刊,如IEEE/ACM ToN, TDSC, TPDS, INFOCOM等。曾担任十余个国内外学术会议与学术论坛研讨会的组织主席。在Springer出版区块链英文学术著作2部《From Blockchain to Web3 & Metaverse》与《Blockchain Scalability》出版区块链教材《从区块链到Web3》,开源区块链实验平台 blockEmulator.com。


报告题目《为Web3构建基础设施:分片区块链的可扩展性研究》

报告简介:可扩展性已经成为区块链底层一个关键研究方向。学术界已经提出了若干具有代表性的方案来提升区块链可扩展性,比如有向无环图技术、分片技术、新型共识机制、状态通道、侧链、跨链等等方案。其中,分片技术被认为是一个非常有潜力可大幅度提高区块链吞吐性能的扩容方案。本次报告黄华威老师首先梳理了区块链分片技术的研究现状,然后介绍了他的研究团队在基于分片机制的区块链可扩展性方面的研究进展与成果。

黄华威老师演讲现场
感谢状

HuangLab 出版 2 本区块链英文书

近期,HuangLab 在 Springer 出版两本区块链英文书,分别是:

  • Huawei Huang, Jiajing Wu, Zibin Zheng, (2023) “From Blockchain to Web3 & Metaverse,” Springer, Sep. 06, 2023, ISBN 978-981-99-3647-2.
  • Wuhui Chen, Zibin Zheng, Huawei Huang, (2023) “Blockchain Scalability,” Springer, June 2023, ISBN 978-981-99-1058-8.
https://link.springer.com/book/10.1007/978-981-99-3648-9

From Blockchain to Web3 & Metaverse

—— 作者: Huawei Huang, Jiajing Wu, Zibin Zheng

—— 本书简介

Web3 has attracted considerable attention due to its uniquely decentralized characteristics. The digital economy, currently undergoing a rapid development, is a critical driver to highly efficient societies. It is imperative that we investigate how to use Web3 technologies to address the critical concerns encountered during the development of the digital economy by fully exploring Web3. On the other hand, metaverse seamlessly integrates the real world with the virtual world and allows avatars to engage in a broad range of activities including entertainment, social networking, and trading.

In this book, we dive into metaverse by discussing how blockchains connect various Metaverse components, digital currencies, and blockchain-empowered applications in the virtual world. In this book, we also share insights into the Web3-based ecosystem in Metaverse; topics of interest include decentralized finance, digital assets, the asset-trading market, etc.

Unlike other books on the subject, this book mainly concentrates on insights and discussions regarding blockchain, metaverse and Web3. In other words, it focuses on using blockchain technologies to enable an ecosystem for both metaverse and Web3. Topics addressed include blockchain fundamentals, smart contracts, value circulation in metaverse, the connection between metaverse and Web3, the establishment of metaverse on the basis of blockchain technologies, decentralized autonomous organization, decentralized storage, digital economy, Web3-based economic systems for metaverse, etc.

This book will be a valuable resource for students, researchers, engineers, and policymakers working in various areas related to blockchain, metaverse and Web3. We hope that it will also inspire readers from academia and industry alike, and ultimately help them create a truly open, fair, and rational ecosystem for metaverse and Web3.

https://link.springer.com/book/10.1007/978-981-99-1059-5

Blockchain Scalability

—— 作者: Wuhui Chen, Zibin Zheng, Huawei Huang

—— 本书简介

This book focuses on conducting a comprehensive analysis of blockchain scalability serving large-scale application scenarios, from the “what, why, how” three perspectives, layer by layer. Gathering the latest state-of-the-art research advances in the key issues and technologies for blockchain scalability, it also presents some special and exciting insights on the existing and future blockchain scalability.

Given the merits of blockchains such as decentralization, immutability, non-repudiation, and traceability, the current blockchain has faced a serious scalability bottleneck. The scalability bottleneck problem is mainly manifested in two aspects: low-performance efficiency and difficulty in functional extension. First, the security and reliability of the blockchain system come from the fact that most nodes of the whole network participate in a distributed consensus to maintain the ledger. The high-cost consensus mechanism makes limited performance of blockchain, and there is a big gap between the actual large-scale application system. In addition, to ensure the security of a single blockchain system, data between different blockchain systems are relatively isolated, making it difficult for assets and data to interact.

This book explores the scalability of blockchain in depth, proposes meaningful approaches to the problems mentioned above, and builds an original theoretical system of blockchain scalability. It describes the root of blockchain scalability problems, mainstream blockchain performance, the classification of existing scalability problem solutions, and some exciting sharding-based approaches. It also includes open issues and future directions to scale blockchain for complex practical application scenarios. As such, this book will be a valuable resource for students, researchers, engineers, and policymakers working in various areas related to blockchain scalability, which is also of great significance for understanding and solving the bottleneck of blockchain scalability and realizing the practical large-scale commercial application of blockchain.

下载PDF电子书,请移步:https://sse.sysu.edu.cn/teacher/161

实验室近期举办两个区块链论坛

近期,实验室在 CCF 专委技术大会的平台上举办了两个区块链为主题的学术论坛:

2023年8月4日在南昌举办的中国计算机学会(CCF)计算机系统大会 (CCFSys) “区块链分布式账本技术”分论坛

2023年8月15日在南京举办的第六届CCF区块链技术大会 (CBCC 2023)“区块链系统与智能合约安全”论坛

CCFSys“区块链分布式账本技术”论坛

—— 论坛主席:黄华威副教授、郑子彬教授

—— 论坛简介

区块链技术作为一项颠覆性的创新,对于实现可信、去中心化的数字经济具有重要意义。为促进国内外科研机构和专家学者之间的交流与合作,本论坛提供了一个分享最新学术观点、讨论国际前沿进展的平台。本论坛专注于区块链底层机制、区块链系统与分布式协议设计、区块链性能瓶颈突破、以及针对区块链系统的原理发现等方面。本技术论坛将邀请海内外知名区块链专家和学者进行主题演讲和分享,内容涵盖但不限于:区块链存储网络、共识算法优化、可扩展性技术、区块链加密算法、区块链存储优化技术、区块链安全数据交互,等等区块链关键技术与应用。欢迎各位与会专家学者参加本次论坛,共同探讨区块链技术的未来发展趋势和实际应用价值。

—— 论坛邀请的6位专家分别是

  • 成秀珍,山东大学计算机科学与技术学院院长,报告题目《去中心化存储网络》
  • 刘哲,之江实验室副院长,报告题目《同态加密:原理与应用》
  • 肖斌,香港理工大学教授,报告题目《Privacy-Preserving Data Exchange》
  • 伍前红,北京航空航天大学网络空间安全学院教授,报告题目《面向多链融合的区块链跨链互操作与可扩展关键技术》
  • 刘秀龙,天津大学智能与计算学部教授,报告题目《区块链技术与系统》
  • 肖江,华中科技大学计算机学院教授,报告题目《可扩展图式区块链存储系统的研究与实践》
论坛结束后,几位专家(刘秀龙,肖斌,成秀珍,肖江,伍前红)与论坛主席黄华威副教授的合影留念,2023年8月4日下午

本次论坛更多的照片,请访问:https://live.photoplus.cn/live/pc/80831571/#/live

CBCC“区块链系统与智能合约安全”论坛

—— 论坛主席:郑子彬教授、黄华威副教授

—— 论坛简介

本论坛专注于区块链系统与智能合约安全。旨在为参会专家学者提供一个分享前沿新颖的学术观点以及交流合作的平台,共同探索区块链系统与智能合约安全方向的最新进展和发展趋势。本技术论坛邀请6位知名区块链专家学者进行主题演讲,内容涵盖:区块链用户身份推断、区块链与数字货币、区块链数据挖掘、可信区块链技术与应用、智能合约的缺陷与漏洞发现。

—— 论坛邀请的6位专家分别是

  • 付章杰,南京信息工程大学教授,报告题目《区块链地址身份推断方法研究》
  • 黄步添,云象创始人,报告题目《金融区块链与法定数字货币》
  • 宣琦,浙江工业大学教授,报告题目《基于图机器学习的区块链数据挖掘》
  • 王伟,北京交通大学教授,报告题目《大规模智能合约漏洞检测与分析方法》
  • 沈浩颋,浙江大学研究员,报告题目《物理可信根在联盟链技术框架下的应用》
  • 郑沛霖,中山大学副研究员,报告题目《智能合约缺陷研究》
论坛结束后,部分专家讲者、团队小伙伴与论坛观众的合影,2023年8月15日下午

本次论坛更多的照片,请访问 [传送门]

正式上线 | 区块链实验平台 BlockEmulator 1.0

一、 BlockEmulator 是什么?

BlockEmulator 1.0 是一个可支持多种共识协议与跨分片机制的区块链协议验证平台,由 HuangLab (中山大学 · 黄华威研究组)开发并开源。

网站首页:https://www.blockemulator.com

该实验平台主要面向区块链研究人员,当他们需要对提出的新型区块链共识协议、新型跨分片机制进行验证时,可以帮助用户快速搭建一个轻量化的区块链底层协议的实验平台,并对实验数据进行收集,方便绘制科研论文所需的实验图。

BlockEmulator实现了区块链的底层技术,不仅可以帮助初学者快速入门及加深理解区块链底层原理,也能为区块链研究者提供一个完整的区块链技术开发和测试环境。它可以降低开发和测试一个区块链新协议的成本和难度,为开发人员和研究人员提供可定制化的二次开发环境,加速区块链技术的创新和应用。

二、 BlockEmulator 能用来做什么?

BlockEmulator 1.0 的设计目标是为了帮助用户(研究者、学生)快速验证他们提出的新型区块链共识协议和分片机制。它被设计为一个采用轻量化区块链系统架构的实验平台。它简化了工业级区块链系统的实验环境的搭建流程,这是因为 blockEmulator 仅仅实现了区块链核心功能,比如交易池、区块打包、区块共识、交易上链等核心环节,并且支持常见的几种主流共识协议,如拜占庭容错 ( Practical Byzantine Fault Tolerance, PBFT ) 协议与工作量证明机制。

特别地,blockEmulator 对主流的“区块链分片机制”进行了系统底层级别的设计与实现 。其中,“跨分片交易”机制包含以下两个具有代表性的分片协议:Monoxide (NSDI’2019) 方案中提出的 “Relay 交易机制”,以及 BrokerChain (INFOCOM’2022) 中的 “broker 机制” (基于“做市商账户”的区块链跨分片协议 —— BrokerChain )。

因此,blockEmulator 支持对区块链底层新协议的正确性进行验证,尤其支持对区块链新型分片机制与协议做功能测试。

三、BlockEmulator 有什么特点?

  • 快速搭建:不仅可以在本地进行实验,还可以远程部署到云端运行。
  • 可定制化:BlockEmulator 1.0 采用 Go 语言实现,能够定制化二次开发,满足不同需求。
  • 易于实验:BlockEmulator 1.0 支持主流区块链(如以太坊)历史交易数据回放,可以自动输出、保存区块链实验指标,如系统吞吐量、交易确认时延、交易池拥塞程度等等。
  • 容易上手:无需复杂设置,科研人员与学生就能进行实验并收集数据绘制图表。

四、BlockEmulator 的架构设计

BlockEmulator 1.0 采用分层的方法进行设计,各层相对独立且只与邻近层交互,实现系统层面的功能解构,帮助用户快速熟悉系统架构并进行代码复用。

图1. BlockEmulator 1.0 整体架构设计

BlockEmulator 1.0 提供了详细的用户使用文档,如下图所示。

图2. BlockEmulator 1.0 开源文档 github 页面

五、BlockEmulator 的未来版本

本次我们暂且开源 BlockEmulator 1.0 版本。目前研究团队在持续对 BlockEmulator 更新版本,后续会推出可操作性更高、交互界面更友好的后续版本。注:BlockEmulator 已经申请了专利保护。

六、已使用 BlockEmulator 的相关论文

如下几篇论文使用了 BlockEmulator 1.0 作为实验工具。欢迎了解。

  • BrokerChain: A Cross-Shard Blockchain Protocol for Account/Balance-based State Sharding (INFOCOM 2022) PDF】【论文介绍
  • Achieving Scalability and Load Balance across Blockchain Shards for State Sharding (SRDS 2022)PDF】【论文介绍
  • tMPT: Reconfiguration across Blockchain Shards via Trimmed Merkle Patricia Trie (IWQoS 2023)PDF】【论文介绍
  • MVCom: Scheduling Most Valuable Committees for the Large-Scale Sharded Blockchain (ICDCS 2021) PDF】【论文介绍

欢迎反馈!

实验室区块链论文被顶刊 IEEE/ACM ToN 接收

Huawei Huang, May 11, 2023

研究组近三年专注于区块链底层关键技术的研究,旨在提升区块链系统的运行性能。经过三年多的摸索,我们的技术路线逐渐发展为:以分片机制为特色,通过设计新型区块链底层协议与机制,让区块链系统运行得更高效、更健壮、更安全。

研究组一篇区块链分片机制的论文今日被IEEE/ACM Transactions on Networking (ToN/TNet) 接收为长文。IEEE/ACM ToN/TNet 是 CCF-A 类推荐期刊,是计算机网络方向三大顶刊(ToN, JSAC, TMC)之一,它要求每一篇能被接收的论文必须具备以下几个条件:足够新颖的研究选题,严谨的问题描述,有性能边界保证的算法设计,对提出的机制有充足的理论分析,以及无可挑剔的实验结果。 

接下来介绍一下这篇论文。

Huawei Huang, Xiaowen Peng, Yue Lin, Miaoyong Xu, Guang Ye, Zibin Zheng, Song Guo, “Scheduling Most Valuable Committees for the Sharded Blockchain,” IEEE/ACM Transactions on Networking (ToN/TNet), 2023, pp. 1-15. To appear. [PDF]

论文简介

近年来,源自传统数据库领域的分片技术被应对到区块链,试图解决区块链系统的扩容问题 [1]。在分片区块链中,交易池中的交易可以由多个并行委员会并行处理。以这种并发的模式,分片区块链的交易吞吐量理论上可以被较大程度地提高。但是,分片区块链仍然面临一些技术挑战。其中,有个明显的系统层面的技术问题简述如下。例如图1所示的Elastico [2]方案中,当区块链节点组成若干委员会之后,在各个委员会的共识阶段,天然地存在不同的委员会对交易达成共识的速度不一致的问题。这个问题就是分布式并行计算系统中经典的 straggler “拖后腿”问题。这是因为不同的区块链分片委员会的异构处理能力导致了不均衡的共识延迟。这种不平衡的延迟给分片区块链系统的“最终委员会”带来了很大的累积等待时延。因此,区块链交易的确认时延会被大大增加,区块链系统的吞吐量会被显著降低。

图1  Elastico协议 [2] 中每轮共识的主要流程,其中 C1-C4为并行工作的分片委员会,C5为“最终委员会”,只有最终委员会产生的区块才会上链存储。

本文认为一个好的委员会调度策略可以减少在“最终委员会”造成的累积等待时延,从而有利于区块链的系统吞吐量。但我们经过调研发现,目前相关文献尚未提出一个针对这个问题的委员会调度方案。本文首先定义分片区块链中交易吞吐量与累积时延之间的动态权衡问题,然后将这个权衡问题表述为一个效用最大化问题。为了解决这一问题,我们提出了一种在线分布式随机探索算法,英文叫做 online distributed Stochastic Exploration (SE) algorithm。该算法可以为分片区块链在每一轮共识挑选出最有价值的分片委员会优先参与最终委员会的共识,旨在让每一轮共识尽量多地打包交易、并且尽量地缩短交易在并行工作分片内的等待时延。该算法还可以处理分片委员会的动态加入和失效事件。本文还对提出的算法的收敛时间和委员会失效带来的性能扰动进行了严格的理论分析。实验环节,本文使用了真实区块链历史交易数据集进行模拟仿真。结果表明,提出的算法可以选择最有价值的部分分片委员会参与最终共识,加速区块的上链。

实验平台

本文的实验工具是实验室自行开发的区块链底层协议验证平台,名为 BlockEmulator。除了本文之外,该实验平台还被其他几篇论文所采用,例如 BrokerChain [3], tMPT [4], MVCom [5], 以及分片账户图划分算法 [6]。

我们即将把 BlockEmulator 开源给外界使用,敬请关注!

参考文献

[1] Zibin Zheng, Wuhui Chen, Huawei Huang [Book] “Blockchain Scalability,” Springer, 1st edition, 2023.

[2] L. Luu, V. Narayanan, C. Zheng, K. Baweja, S. Gilbert, and P. Saxena, “A secure sharding protocol for open blockchains,” in Proc. of ACM CCS, 2016, pp. 17–30.

[3] Huawei Huang, X. Peng, J. Zhan, S. Zhang, Y. Lin, Z. Zheng, S. Guo, “BrokerChain: A Cross-Shard Blockchain Protocol for Account/Balance-based State Sharding,” in Proc. of INFOCOM, May 2022. 

[4] Huawei Huang, Yetong Zhao, Zibin Zheng, “tMPT: Reconfiguration across Blockchain Shards via Trimmed Merkle Patricia Trie,” IEEE/ACM International Symposium on Quality of Service (IWQoS), 2023.

[5] Huawei Huang, Zhenyi Huang, Xiaowen Peng, Zibin Zheng, Song Guo, “MVCom: Scheduling Most Valuable Committees for the Large-Scale Sharded Blockchain”, ICDCS, July 2021.

[6] C. Li, Huawei Huang, Y. Zhao, X. Peng, R. Yang, Z. Zheng, and S. Guo, “Achieving scalability and load balance across blockchain shards for state sharding,” in Proc. of 2022 41st International Symposium on Reliable Distributed Systems (SRDS’22), 2022, pp. 284–294.