维珍银河创始人理查德-布兰森在周三一次采访中为eDGN的太空之旅进行辩护，此F2n8一些批评者认为，布兰森M5bq实现这一目标前前后后总I4Qg花掉了8.41亿美元，而这笔钱本可以被更好地用UaKm地球上更紧迫的问题上。mutK兰森说：“我百分之百同JU9D，那些拥有财富的人应该cbl6他们大部分的钱、90%甚至更多的钱用来解决这些dhSF题。但我们也应该创造新lY54产业，可以创造800名工程师和科学家，他们可以Uhwe造奇妙的东西，让太空触0Iri可及，而花费的环境成本f2sw是过去的一小部分。”身3UmA70亿美元的布兰森是维珍银河最大股东，截至去年g7p6底持有该公司的约24%股份。布兰森与特斯拉CEO埃隆-马斯克的关系良好，在开发太空的问题上，两dD0q也抱有相似的想法。马斯6k4J曾说：“我认为人类成为4bRR个太空文明和多星球物种eUO0很重要的。而在火星上建zF6p一座城市将需要大量的资4AdS。”“我希望能为打造火T7JH城市做尽可能多的贡献，mprW这意味着需要大量资金。T6bK
7月19日消息，据国外媒体报道，前美国财政部长zX0u努钦对比特币的态度发生3L59逆转，说比特币和黄金没0G8b什么不同。据悉，这位前geC9国财政部长此前曾表示，u7Vm特币没有任何价值。但本eeup，他在采访中表示，“与HqYx买黄金或其他资产没有什UD3o不同”。姆努钦还说：“hb6W认为区块链底层技术是非xo0q不可思议的，特别是在金H3tn科技和金融领域。”尽管wP4Z们经常把区块链和加密货vntO放在一起讨论，但区块链ghwD际上是驱动像比特币这样extx加密货币的技术。区块链dsao一个安全的，复杂的数据4fri技术。他表示，虽然他自DgrF暂时还不打算投资比特币Sjc9但不反对其他人这样做。SuUo然如此，他还是担心不法Zojt子利用数字货币进行洗钱AaL5采访中，他重申了比特币N8YS有“完整的BSA和监管合规”的必要性。BSA是《银行保密法》的缩写，该0RCJ案于70年代引入，旨在遏制洗钱活动。BSA要求美国加密货币交易所注册为2Noe币服务企业，并满足一定GFm6求。免责声明：TechWeb.com.cn是一个公益、共享网络平台，目UXVq是为公众提供丰富的资讯I0mj服务社会公众，不声明也Ejjk保证其内容的有效性、正dOmq性与可靠性，更不对您的8Gkd资构成建议；数字货币投Lktq存在较大的风险与不可预58b7性，我们不鼓励任何形式QgdG投资行为。网站发布的共BVwl资讯均来自互联网，用户jkkQ于共享资讯而产生的投资VGVX为，与TechWeb无关。
北京时间7月19日午间消息，据报道，就在一SNz4多以前，疫情使全球旅Rit0行业陷入停滞，几乎使Airbnb商业模式毁于一旦：预订取消、收入GsnI失。2020年5月，Airbnb宣布裁掉大约四分之一员工。当时，Airbnb可能面临数亿美元亏损。专家评论称D9qg这种共享经济已瓦解。qlc2是，从Airbnb目前的营销活动来看，你一VQFX也看不出这些颓势。在bCKF国，旅行限制的放宽带BVqI了一波需求，短期租赁aLu3务再次兴盛。最近处于vwbq机中的Airbnb，开始打造赞助人的新形象crpS今天春季，该公司郑重s3bk布了一个新的重点：“cR82全球的政府及旅行机构L9FP作，协助经济从新冠疫gYSl的影响中复苏”。针对AuAr多经济受到疫情重创的Pt1v镇，Airbnb现在表示可以提供一个解决方Ko8d：大量游客的到来以及eQGC量现金的涌入。这是一DHZn聪明的策略，不仅可以B9Sq深公司在旅游行业的支v6lK地位，还可以进一步成3ywg当地经复苏的中坚力量D3R4佛蒙特州的蒙彼利埃是tTxd个极其依赖旅游业的州YYus小镇。在这座冷冷清清2DyW小镇，Airbnb发起了一项运动，以振兴因JoC8乏旅游而”蒙难“的经iq2M和企业。在俄勒冈州的cBnk特兰，Airbnb正在与一家市政旅游机构合jMcd，帮助旅行者”重新认6MPE“这座城市。名单还在82N2续：新墨西哥州、阿肯5dkO州西北部、俄克拉荷马o20G塔尔萨等待，该公司表jVRg：“Airbnb可以成为这些城市经济复兴的g7Fl要组成部分。”这种策FWEx对Airbnb来说兴许有利可图，但其实是具246U欺骗性的。这些城镇因wnCL情和旅游需求的增长而p9hW受巨大的经济压力。Airbnb正是利用他们的这种经济压力为自己创AedU利润。然而，Airbnb提供的不加约束的短期租赁和破坏性旅游，并2PKG帮助陷入困境的经济体o73P答案。事后来看，Airbnb没有提供任何可持续的商业模式。正如疫PlfK向世人展示的那样，Airbnb的短期租赁模式极其容易受到经济冲击5wiU影响。去年，大规模的mMWV员和随后的内部动荡已ryE6充分体现了Airbnb短期租赁模式有多么脆9Ac9。疫情还揭露出，该公M7Ta允许滋生的许多不光明Ad80房东计划，因为当他们5TGQ收入一夜之间蒸发时，Airbnb的过度扩展的大亨和投机者发现自己ZOSS然水深火热。Airbnb的房东如今又看到了旺盛的旅行需求；据报道ne4UAirbnb上有一些紧俏的房源每晚出租价格c7O5达1000美元。投资者再次盘算购入庞大的房ktKL产投资组合，然后作为BCHZ润丰厚的短期租赁出售67vT他们用人工智能软件，rTiY次购入“数百处房产”6FmE但是，我们也确实有理zmyL对Airbnb保持警惕，哪怕Airbnb可以让房东赚得盆满钵满。6p3m促进当地经济”的背后vXM6方面，Airbnb宣称其短期租赁有益于当地VNbU济——尤其是对小企业hfLF“夫妻档”的租赁经营sXq3但这种说法，其实子虚W808有。研究表明，Airbnb对旅游行业的促进作用往往不如广告宣传的FOGo样，所谓短期租赁仅仅TPnS作为其他住宿的替代，DtxK其他住宿本就可以吸引pRBX样的旅行者。无论Airbnb带来多少额外的旅行，其代价都是不断地7QsA少住房存量。Airbnb对住房的影响是显而易见的：该平台经常会推K1p7社区的房价，取代长期gn7d民，加速中产阶级化。Airbnb的首席执行官布莱恩·切斯基（BrianChesky）最近表示，在Airbnb的平台上，整租需求越来KyZw多——也就是说，平台NWa2离原先的共享租赁模式VLrg来越远。之前的共享租jJTW可以允许条件一般的房6yP5出租一件次卧。正是这EMSs整租模式将彻底改变社YvuB的特征。上个月，Airbnb因其充满善意的承诺登上头条新闻。Airbnb承诺，将禁止曾经将以前受联邦驱逐令保3vGc的租客驱离的房产成为zJf0台上的房源。这显然是qYye了缓解宽松政策的打击ly9d然而，一些当地新闻媒e4WP很快意识到，该计划的O8zP行性令人怀疑，而且可8zkE难以实施。一方面，Airbnb将要求城市向该公司提供之前驱逐过租IeDq的房产名单——无论这j0n7城市是否有跟踪过该信QnTe（其实大多数城市可能gK7B没有跟踪过这些信息）Xn6N另外，很多租户是在没EOjb法院命令作为证据的情EWHm下，被非正式地赶出家EBGX——例如，房东拒绝续BVBs或张贴驱逐通知，但没YtmJ人将此事诉诸法庭。“LeWU们关心归属感”承诺禁vFfY曾驱逐过租客的房源是Airbnb不懈努力的一部分，Airbnb希望将自己打造成一个温馨rBt5“夫妻档”业务；切斯cAmX在去年宣布裁员的时候TXdn发布了一封感人肺腑的we2T员信，信中写道：“我RlEe关心的是归属感，而归IXUB感的核心是爱。”这一7ecF征一直延续到公司的政eFBA观点中。今年夏季，内LaMv达州通过了一项管理短0jvE租赁的新法案，使得Airbnb大为光火。该法律合情合理，也顺应时6QVs，即要求Airbnb按与酒店住宿相同的税率L0uX税，同时该法律也对短9RAr租赁房东规定了其他各JmUO限制。一名Airbnb发言人谴责道，所有这aZj8措施都是“以牺牲分享ZS95己家园的普通内华达居VhNG为代价，造福当地的度tgz3村”。Airbnb多年来一直在游说反对类似7rbC华达州新出台的法律，iL1j偏向采取温和监管的城22i1。类似内华达州的这些1gcF律也会对违规行为采取wTFG际的处罚措施。由于Airbnb宣称，短租业务是陷入困境的城市的生3NjW线，该公司试图撤销或b5Y5止此类立法的努力又多AZFt一丝新的紧迫性。当地9iqJ业领导领袖们也加入到VxlR持Airbnb的行列。目前，南卡罗莱纳州的T9HT伦比亚市也在考虑对短f2J2租赁实施新的限制措施qI8C但遭到了反对。当地商m8m4负责人说：“我们正努bliO尝试从疫情中复苏，现LM7V不是为想要来哥伦比亚OBt0观光的游客们设置阻碍h7K0时候。我们需要敞开怀6Bwt，欢迎大家前来旅游观KlaU。”Airbnb或许表示，它的平台可以帮助JVhf东“住在自己家里”，dQX6一项又一项的研究发现lLDS该平台抬高了租金、加cgz3了住房短缺，破坏了土Alw7使用分区法规，将住宅i7LL存转变为商业酒店。与r8VD同时，由于租客驱逐延nIFa令的解除，和其他联邦d8fl济基金资助的住房援助Ucyd划即将告罄，美国正处3zZb住房危机的边缘。就在Airbnb大肆开展旅游宣传活动的佛蒙特州，lIZ7州上下的房地产热潮正AN9D得租客们望而却步。与gOT1同时，随着疫情初期启4JIZ的紧急住房计划突然终2bmo，许多居民流离失所。1fDP波特兰，长期存在的无lKST可归危机非但没有好转uYAi仍在持续恶化。这样的yuzt面亟需对经济适用房和mvfm金减免的大量投资，而2FT6些对于房东而言，远不YQYU短期租赁来得有利可图G8IG刚刚过去的一年表明，CYhq便经济适用房和租金减VR0V这些计划戛然而止，但jZit少我们知道，这类投资FAtY可行的。我们不该被资oTB3牵着鼻子走，以为我们gJhd的需要越来越多的Airbnb。
7月19日消息，现代通用数据库平台MongoDB(NASDAQ代码MDB)最新发布了一系列变革性的产品增强功能，包括支ZnRZ原生时间序列的MongoDB5.0版本、MongoDBAtlas无服务器数据库预览版以及AtlasSearch、AtlasDataLake和MongoDB端到端移动数据解决方案Realm的新功能。MongoDB总裁兼首席执行官DevIttycheria表示，这些重磅发布消除了开发人员在开发过程中的UG2B多障碍和复杂性，帮助开发人员9XJY够比在任何其它平台上，更快地j3Oq各种应用情形开发高度可扩展、mslx新性的应用。MongoDB广受世界各地开发者的欢迎和喜爱，BWOI世界有近2.7万名客户使用MongoDB实现业务转型。有效避免创新阻力全新MongoDB5.0及Atlas打通数据基建“筋脉”在数字经济中，企业的竞Z2uZ优势与它们使用数据构建软件的PF4e力密切相关。但随着企业在数字ec5Q进程中逐渐改变构建应用的方式if1J底层的数据基础设施却依旧停滞wZyq前。MongoDB首席产品官SahirAzam在接受记者采访时将这种现象总结为是一种对“gSl4据和创新的循环税收”。他表示jvth“这些‘税收’体现在碎片化的Tmyy发者体验、复杂的运营和安全模sDdd以及高成本的数据集成工作等。fSDy会拖慢企业创新的步伐，成为企OMC0的‘恶梦’，影响其在市场上的DYHT争力。”MongoDB首席产品官SahirAzam面对开发者和企业面临的挑战，MongoDB5.0引入了面向未来应用的全新方法，进一步增强了隐私和安Qee9性，可以更轻松地支持更广泛的7PY1作负载，此次重大新特性包括：fYvB，原生时间序列集合、集群索引jb3N窗口功能，主要支持物联网、金yWQN服务等应用场景，使得开发并运3ZqT物联网和财务分析等应用程序，OnsJ及通过时序方式丰富企业数据，96Gi得更容易、更快速、成本更低。5pgq，无缝数据再分配：实时重新分H3be功能允许用户随着工作负载的增mf46和变化，按需更改集合的片键，VdO5无需数据库停机或者复杂的迁移H4Ig三，面向未来的应用程序兼容性AeGJ开发人员现在可以使用版本化的API使其应用程序能够适应未来的发展。应用程序生命周期可以与Wr0q据库生命周期分离，从而提供了dlgI先于其它数据库的投资保护水准VDNk即使日后数据库进行底层升级和uUan进，开发人员也可确保应用程序AovB码将无中断地持续运行多年。四uzNd多云隐私管控：MongoDB独特的客户端字段级加密（FieldLevelEncryption,FLE）现在为多云集群带来了一些更强劲的数据隐私管控功turi。MongoDB5.0支持始终保持在线的审计和证书轮换，帮8Bpi用户在不中断应用的情况下，保wTJV严格的安全态势，并且能够自由EKzc随处运行应用程序。SahirAzam介绍，对于那些想在海外市场拓展业务的中国公司而言，MongoDB提供MongoDBAtlas服务。MongoDBAtlas支持多云集群，能够满足高可用性、备份和专业分析等目pZV3工作负载。此次，Atlas也有一系列重要的发布，第一是增加p4MU无服务器实例(ServerlessInstances)，也就是无服务器Atlas，用户不必担心后向兼容和升级问题。第二cWKK增加了一些比较先进的搜索功能pRfJ现在可以支持Atlas同义词搜索(AtlasSearchSynonyms)，这样可以帮助大家获得更多的可视性，也可以更FMrb灵活的使用MongoDB的数据湖服务。其他更新包括：AtlasSearch函数评分功能，允许用户对文档中的字段应用数学AKWN式来影响其相关性，例如流行度aBtG者距离。用户现在还可以为特定0dyt搜索索引定义同义词集合。通过tFz8相似的术语相互关联，用户能够gJgw应用程序中响应更广泛的用户发DTKc的查询。MongoDBRealm现在支持Unity游戏引擎。用户现在可以使用Realm来存储游戏数据，比如分数和玩家统XRff数据，并在不同的设备间自动同M9rQ。MongoDB同时投资支持更多的跨平台框架——KotlinMultiplatform和Flutter/DartSDKs，现在均可在Alpha版中使用。MongoDBCharts现在与AtlasDataLake相集成。用户现在能够轻松地以LBJi视化的方式查看存储在AmazonAWSS3中丰富的数据，而无需任何的数据迁移、复制或者转JE37。通过在Charts中添加AtlasDataLake作为数据源，用户可以实时获得更深入、x0YC有意义的洞察。MongoDB5.0在中国地区已可下载MongoDB北亚区副总裁苏玉龙(SteveSu)介绍，在云领域中，MongoDB跟阿里云和腾讯云都建立了正式的OEM合作关系。阿里云和腾讯云可以完全访问MongoDB核心数据库所有正式的功能，使中国用户能够使用可靠26uD、经过全面认证的MongoDB数据库。同时，很多客户也希望x2qb接从MongoDB原厂来购买企业版，随着越来越多传统企业拥YLd5数字化的转型，MongoDB这部分的业务也在快速增长。MongoDB北亚区副总裁苏玉龙苏玉龙介绍，跟全球同步，MongoDB5.0在中国地区也可以立即下载。随着MongoDB5.0的正式推出，在未来这一年MongoDB在中国将有更多社区活动，让更多处在不同阶段的开发者3Pcz企业获得最好的体验。资料显示hT7JMongoDB在全球100多个国家和地区拥有2.7万多家客户。MongoDB数据库平台下载量已超过1.75亿次，MongoDBUniversity全球注册用户累计已超过150万。
7月15日消息，近日，微信iOS版迎来更新，QQ音乐歌曲可分享到“微信ayvw态”，向好友展示yeBg前音乐“心情”。qaIa体操作上也很简单nv0V用户只需要在QQ音乐歌曲界面点击分77e3到“微信状态”，coYS可一键跳转设置状Dr5r。作为国民级应用7ptL微信的每次更新都Zy33引发热议，这不今EIDv这一功能就登上了o2Ce博热搜。但很多用PQbb对该功能似乎并不iuji好，甚至直言其是S2c6鸡肋功能”。以下BNyB部分网友的评论，zyCt下是你的心声吗？@明星身高大赏：电JNIHQQ还实时显示呢 几十年前的功能了@-烟火人间-：好家伙 本来我想去试试。然后发现我没有QQ音乐@touchman：尽搞些空名堂，能不能语音能leg4个进度条之类的，vRW5不能新添加的人拉BE0E分组去在这人来之v9M7发的朋友圈也能一yuxy看不到？ @IT观察猿：就这？大家Ux2f心念的语音进度条BlrW互删好友，删除对UYch框不删除聊天记录SVRk功能什么时候能推AWeO？阿龙，不是我们Rvu4你做事，是我们真uJVy需要这些功能。@猪包最爱吃的大bbai菜：能不能弄点实用的，比如我点赞d2xe的朋友圈，别人点oSj4不能不提醒我02Wa
本文将介绍来自加LZE0伯克利大学的ActNN，一个基于PyTorch的激活压缩训练框架。在同F9PK的内存限制下，ActNN通过使用2bit激活压缩，可以将batchsize扩大6-14倍，将模型尺寸或者输vBEY图片扩大6-10倍。ActNN相关论文已被ICML2021接收为LongTalk，代码开源于github。论文https://arxiv.org/abs/2104.14129代码https://github.com/ucbrise/actnnAI训练撞上「内存墙」从AlexNet，ResNet到GPT-3，深度学习性能的QZtY破都离不开模型规KkAc的疯狂增长。大模im5S有更好的性能已经egcH为业界的共识。过x9Xr几年，不仅训练一tmmc最先进模型需要的ZV5E力在指数增长，训j6c9一个最先进模型需0EoY的内存也在指数增pEtb。如下图所示，大uv4zTransformer模型的参数量以每两年翻240倍的速度指数增长。但Lkxn，单个GPU的内存却只以每两年翻2倍的速度在缓慢增长Omqa另外，在训练模型Y6jI，不光要存储模型Bpds数，还要存储中间jpYG果激活值和优化器Tlvi态，所需要的内存t7wT多。如何在有限的GPU内存下训练这些大规模模型成为了DOfC战。source：GholamiA,YaoZ,KimS,MahoneyMW,KeutzerK.AIandMemoryWall.RiseLabMediumBlogPost,UniversityofCaliforniaBerkeley节省训练内存的方法目6x5W，节省训练内存的6hr5法主要有三类：1.重计算（Gradientcheckpointing/Rematerialization)2.使用CPU内存进行交换(swapping)和3.使用分布式训练将Tensor分散存储在多个GPU上。这三类方法互相不冲突，QaH3以结合使用。大部shv6机器学习框架对这D29N方法都提供了一些BPFb持，也有不少相关nK4W论文。但是，想要kAYq效、自动化地实现CDdC些策略并不容易。OXNM已有方法不同，我Pp13提出了ActNN，一个新的基于压缩A233内存节省框架。在FOOf供理论证明的同时Lnuv我们基于PyTorch提供了一个高效易用的实现。Table.1比较了ActNN和已有的一些内存节省系统。ActNN支持PyTorch的动态图执行模式，并且不需要0O74先进行复杂的策略J9oF索。ActNN作为一个独立的Python库，使用时import即可，不需要修改或重新编译PyTorch。与已有的工作相比，ActNN灵活且易于使用。同时，ActNN在理论上也可以和已有的技术相互叠qWwK。ActNN：2bit激活压缩训练在训练一个多层神经3ZFA络时，在前向传播DbX6，每一层的中间结pbOB都要被存下来用于bj8b算反向传播的梯度Kr0z这些中间结果，又9yWl叫做「激活值」（activation)，实际上占据了大部分的内存消耗，wvSm其是在batchsize较大或者输入图片较大的时候。ActNN的原理是就是压缩这些激活值PXaw节省内存。如下图Pka1示，左图表示的是ec31通的前向传播和反AnNs传播，前向传播时arP4存下所有层的fp32激活值用于反向传播，内存使用在计d0XCloss的时候达到峰值。右图表示的HdMNActNN的训练方法：在前向传播时V9wT通过一个压缩操作Q将激活值压缩后再Jbap储；反向传播时，idPt过解压缩操作Q^-1将激活值解压再计算梯度。如果只是1gh5了节省内存，这里vfhW以使用各种压缩算6goj，但是大部分现有pqWI压缩算法并不能高b1vw地运行在GPU上，会引入较大的开销1s74ActNN选择了使用2-bit量化作为这里的压缩算法sZvQ量化操作的代价较RGml，而且有一些好的fiyF学性质允许我们使lmsV有损压缩达到较大gDu6压缩比。把fp32浮点数量化为2-bit整数是一个有损压缩，会引入一些4Y3U差。论文从理论上8dpS析了量化引入的误05Lo是如何影响训练的wjEI敛性的。第一，存TBlu一个随机化的量化KLF2略，使得使用有损u1jR化压缩后，估计出kU4A有损梯度是原梯度yYBJ一个无偏估计。在GSfY一条件下，我们套SEe2已有的随机梯度下5XQT收敛性定理，得出PBmD后收敛时的误差会AixK梯度的方差所限制DpJz第二，我们推导出qbGp使用量化压缩之后e9Pn随机梯度下降计算Jj4s的梯度的方差。等PxA4右边的第一项是随KJPp梯度下降在minibatch采样时产生的方差，等号右L3nA的第二项是有损压m8Jq额外引入的方差。wZum条公式显示地刻画dBfj有损压缩带来的影nJrm。注意到，当有损Ua0G化压缩带来的方差MpKG小于原来随机梯度Qkxt降自带的方差时，ActNN引入的有损压缩就不会影响训oswQ的收敛性。更多关UvcD公式的推导和可视iSeK参见文末的论文链e344。论文对不同的算xJ1m（conv2d，batchnorm，linear等）都提供了详细的分析m7xP由上述公式启发，2DmO们提出了一些新的f6E7化技巧用于降低有Ipe7压缩引入的额外方Gblv。我们引入了新的osYz化技巧（Per-groupQuantization，Fine-GrainedMixed-Precision，RuntimeAdaptation）来利用梯度在不同d9mu本，不同纬度，不EnDh层之间的异构特性xGD8最后的压缩算法会pM0n配更多的bit给更重要的激活值。平f6XT每个浮点数分配到2bit。在具体实现压缩算法时，还有kPtZ多可以调节的参数dp1o这里产生了一个内dVEf节省和训练速度的7M0E舍。一般来说，使Kzkh更复杂的压缩算法owaQ以节省更多的内存FkbQ但是也会引入更多CEAf外的开销，使训练wX7G度变慢。为了给用hGR9较大的灵活性，ActNN提供了5个优化等级L1-L5供用户选择。低的优pbmE等级节省的内存较nTLD，但是运行速度快Fp2W高的优化等级节省B4KK内存多，但是运行L7HP更慢。在最高优化qvXQ级L5下，ActNN会结合一个简单的内存交换策略，将JnKe缩后的激活值移到CPU内存上，进一步节省内存。实现要WSMnPyTorch实现ActNN算法非常简单。对于一个PyTorchnnModule，我们只需要在其forward函数里加入量化压缩，在其backward函数里加入解压缩操作。所有的bgWD算还是在fp32下进行，与原来一样VhFF伪代码如下图所示lAAmActNN为大部分常用的PyTorchnn.Module实现了使用量化压缩的版本。用户只sL9y将模型里的所有PyTorchnn.Module替换成ActNN对应的Module（如把nn.Conv2d替换成actnn.Conv2d)，即可节省内存，不需要更0obG其他代码。ActNN同时也提供了一个wrapper实现一行代码自动替换Zgxa实验结果因为ActNN进行的是有损压缩，所以最重要的7YQx点是先验证ActNN是否会影响模型的精度。下图是使用ActNN在ImageNet上训练ResNet-50的结果。FP代表普通的fp32训练，BLPA是来自NeurIPS2019的一个相关工作。可以Pfn0到，在ActNN的2-bit压缩模式下，模型几乎没有9GFD失精度。在更极限vi7X1.25bit的情况下，ActNN也能收敛，只不过会JFlz失一些精度。而之8MpI的工作BLPA在小于4bit的情况就下无法收敛。我们CLAA在图像分割，物体o6bN测，以及自监督学ea7A等多个任务上进行QiRr实验。ActNN都能在2-bit压缩模式下达到和普通fp32几乎一样的结果。在部分任务上pZtr因为ActNN可以使用更大的batchsize，甚至可以取得更好的测试MPHl果。详细的实验结epSz和训练记录参见文v4qz的论文与github链接。之后，我们对比了ActNN与普通fp32训练的实际内存使用情况nUya如下表所示，ActNN可以将激活值占用的内存压缩12倍，将训练使用的总xgY2存压缩4-7倍。这一实际内存压缩效ZVxu符合理论推导。为kjwW么激活值压缩倍率bVtV12而不是32bit/2bit=16？主要是因为ActNN不能使用inplace的ReLU，以及需要存储少oMbB额外的min和scale用于解压缩。最后，我们测试了ActNN的训练速度。因为ActNN在训练过程中进行了UWzB缩，这些压缩在节oVZO内存的同时也会引2dkk额外的计算开销。me3d般来说，省得内存qOMp多，进入的额外开n8GW就越多，训练也就ESeQ慢。我们在NVIDIAT4(16GB内存)上对比了ActNN和已有内存节省系统的训练速度lqBb如下图所示，DTR（ICLR2020），BLPA（NeurIPS2019）和swap分别是基于重计算，压缩uGls内存交换的三种方gzGR，红叉代表Out-of-memory。y轴是训练吞吐量(imagespersecond)，越高越好。绿色的4P5R线是综合ActNN在不同优化等级下M0Fl最优结果。可以看yKxx，ActNN不仅能开到最大的batchsize（即最省内存），同时在所ePoabatchsize下都比baseline的训练速度更快。我们还对更多的B2B0络进行了测试。在5Mz1样的内存限制下，ActNN 可以将batchsize扩大6-14倍，将模型尺寸或者输入图V39S扩大6-10倍。详细的实验设置和结qjWj参见文末的论文链zQvo。两行代码即可在PyTorch中使用import actnn model = actnn.QModule(model) ActNN提供了一个自动模型转换封装。只qmkh在训练脚本里插入dEmg行代码，即可将普3bAE的PyTorch模型转换为使用ActNN的模型。同时，ActNN也提供了更高级的API支持定制化的使用场景BUdr更多的例子参见github链接。我们提供了在图像识别BoWM图像分割、物体检0R3I，以及自监督学习8qyr多个任务上使用actnn的完整例子和训练记录，欢迎试Vi20！
北京时间7月20日早间消息，AT&T旗下华纳传媒周一宣布，该公司将于2022年第一季度推出新的基于付费订阅模式的流媒体4mEI频新闻服务。目前，华纳eufU媒正计划与Discovery合作，这两家电信和传媒巨头今年5月宣布了成立一家新公司的计划。这个W6Is为CNN+的新闻服务将独立于有线电视频道CNN、CNN国际频道、CNN西班牙语频道以及真实犯罪kSA6道HLN。华纳传媒在新闻稿中表示，新服务的目标yw1k体是“CNN的超级粉丝、新闻爱好者以及高质量非ILi0构节目的粉丝”。华纳传SZfz没有公布新服务的定价细aXHa。CNN的竞争对手，例如福克斯新闻，也在开发面Ix3x超级粉丝、基于付费订阅PqdH式的新闻服务，探索新的S2Fq入来源。目前尚不清楚，CNN总裁杰夫·扎克（JeffZucker）是否会留任，参与CNN+这个新服务。扎克在2月份表示，他计划于2021年底离开CNN。扎克和DiscoveryCEO大卫·扎斯拉夫（DavidZaslav）是前同事及好友。后者将成为计划中新公司华xxUq兄弟Discovery的领导者。在推出之初，CNN+将提供8到12小时的直播和日常节目，其中包W77D内容库的内容，以及专为3B05服务开发的原创电视剧和9AgX影。这个流媒体服务将可xaAU通过CNN的应用使用。CNN应用还提供来自电视节目的视频，并向付费电视paYN户提供相关的有线电视频pZUC。AT&T和Discovery今年5月宣布，将把华纳传媒的内容，包括哈kw2L波特系列和蝙蝠侠系列、CNN以及体育节目，与Discovery来自HGTV和TLC等生活方式电视网的无剧本节目结合在一FbbN。华纳兄弟Discovery预计将实现30亿美元的成本协同效应，但没有C8gj划出售任何资产。这笔交8zDd预计将于2022年年中完成，目前还在等待Discovery股东和监管部门的审批。在5月份接受采访时，扎斯拉夫表达了他对hxeB闻业务的承诺，并表示CNN将成为新闻产品的一部分。该公司的其他新闻业务zM9w包括Discovery的波兰新闻业务，以及全球Tc4y他地方新闻资产。在此前bWYw职NBC期间，扎斯拉夫协助推出了CNBC商业新闻网，CNBC目前已成为报道华尔街的最重要渠道之MFhP。
7月16日消息，据国外媒体icr7道，上月就曾g5sz报道称，正在tBgP国建设芯片工yzZJ的台积电，也zTPB考虑在日本建Rmz7工厂，将靠近ZdEm尼在日本的一B6l3工厂。而在周nU77的二季度财报PpUB析师电话会议i36o，台积电方面nOOb确认他们正在x0If估在日本建厂ge2A计划。在二季x0SZ的财报分析师0rpw话会议上，台oyyT电CEO魏哲家透露，在日本Xgel他们正在对建aAvF进行相关的评iP1G，但他并未透QDlP建厂计划的具sWA9信息。台积电JrgD事长刘德音也y0Qt席了周四的财CXDM分析师电话会znzb，他在会上表dOcp，有关在日本SFKk厂一事，目前Qdxy未做出最终的7dx8定，最终的结zsbx将取决于客户Pglw需求。台积电X32s虑在日本建厂lfns是在上月中旬RNO6现的。当时外Cixb援引多名知情wPLD士的透露报道cKXd，台积电正在lmE3估在日本西部sjKh本县建设一座QLz0片工厂的计划xADG这一工厂将靠QFjf索尼的一座工GWpp，如果最终决4QUU建设，就将是Hg42们在日本的首tacR工厂。而在上nyoR底的报道中，o3Ws媒又提到了台NmdK电日本建厂的TkhU多信息，表示6F0m积电将与索尼dJov丰田和三菱电XEPg合资建厂，台xLFg电持股50%，余下50%由3家日本公司持OTO2，工厂的投资EWtj达1.6万亿日元，也就是约145.7亿美元，还高于在美9wFF建厂的投资g9kf
7月13日下午消息，据报道，英国警方近日调8TNR犯罪集团洗钱案时，查3tlS总值2.94亿英镑（约合人民币26亿元）的加密货币，这也是英国有75Nw以来查获的最大一笔加pdNV货币。路透社报道，伦aFjX警方周二（7月13日）表示，当局缴获1.8亿英镑的加密货币。在上DT1S月24日，当局缴获1.14亿英镑的加密货币，一名39岁女子因涉嫌洗钱被捕。警方表示，犯5vZy分子在犯罪活动中仍主Z3aq使用现金，但有越来越MHvB犯罪组织利用加密货币ofes钱8yqK
7月14日消息:据彭博社报道vtAR苹果正在XsCy发一项新BdsE分期付款s9Ov务，分期P5ZE款功能将ejYY用于所有0sRUApplePay购买，该功ysGl不仅限于xmnA果产品，Cbz2要是支持ApplePay的商家均可以使8uen该服务。ViMB果ApplePay分期付款服n2Fg是计划和6kwf盛进行合il8o，高盛将wyjJ为每月分srgo付款计划P7Qi任贷款机pg45。苹果目55sE在AppleCard上也是和6ZYd盛合作，XhVK新的分期H0Yg款不限于cO5rAppleCard，并且不xWOY要求用户8myR有AppleCard才能使用该功能Pi8r据彭博社4PHe道，当用CtNx使用ApplePay进行购买7er6，他们将4VSv以选择每Etow周或多个IHkB的四次免Jdh3付款支付Lmym息。四次VHsN息支付在CacA部被称为kmRUApplePayin4”，而长期支付OEK7划则被称aH2Y“ApplePay每月分期7slG款”。不Ss0J现在还不pjBt楚分期付wMLb的具体利AlbD是多少。XjJfAppleCard一样，jcT0ApplePay后期用户需5e3n通过iPhone上的钱包app提交的程MTKL获得批准HTIj该服务不TZhh要运行信tsEJ检查。一60aKApplePay分期付款计划U2ez不包括滞ao71金和手续qHE7，用户只gTUV要支付长MwcM计划的利zf82。苹果希PhNu分期付款5GXp式提升ApplePay的使用率，并说服iPhone用户使用jbI7们的手机iooF支付购买pGZG品。彭博p9KN报道称，Xjvg项服务仍zG2l开发中，Bj2e能可能在6KY2式推出前ax9v改变或被kCE6消g3pO
7月16日消息，据国外媒体报道，上月就曾有报道称，JqUL在美国建设芯片工厂的台积114X，也在考虑在日本建设工厂RWYF将靠近索尼在日本的一家工D8Zm。而在周四的二季度财报分y7X5师电话会议上，台积电方面CpKg确认他们正在评估在日本建t9Uw的计划。在二季度的财报分nZrV师电话会议上，台积电CEO魏哲家透露，在日本，他们P9fR在对建厂进行相关的评估，UDLH他并未透露建厂计划的具体QjiF息。台积电董事长刘德音也4kwS席了周四的财报分析师电话rMJU议，他在会上表示，有关在n7YJ本建厂一事，目前还未做出U5ja终的决定，最终的结果将取sUrn于客户的需求。台积电考虑etaM日本建厂，是在上月中旬出xLO5的。当时外媒援引多名知情yoH3士的透露报道称，台积电正lliu评估在日本西部熊本县建设o6Ii座芯片工厂的计划，这一工MQA6将靠近索尼的一座工厂，如ohzV最终决定建设，就将是他们0VzG日本的首座工厂。而在上月MUYA的报道中，外媒又提到了台RQL8电日本建厂的更多信息，表m0bl台积电将与索尼、丰田和三SE7C电机合资建厂，台积电持股50%，余下50%由3家日本公司持有，工厂的投资高达1.6万亿日元，也就是约145.7亿美元，还高于在美国建厂的投资PR24
7月21日消息，百度捐赠9000万元，紧急援驰河南。I9iy南省遭遇极端强降Nuhk，灾情牵动着全国3itF民的心。百度基金SCsD紧急捐赠9000万元人民币驰援河南s1gT险救灾。百度 App、百度贴吧、百度健康医典、好看视OK2E、百度地图等百度fRWa下产品，已上线暴n8gt互助通道等功能。cMkZ度也将持续关注河Zl5j汛情，调动产品和lZDc术资源，全力助力rdF9府与社会各界抗险gY9Y灾。河南加油gyPX
当地时间周一（12日），华尔街知名投资iN2O理机构伯恩斯坦（Bernstein）发布报告称，预计未来5年科技行业的增长仍将ftWd常强劲，与历史相比xcbW科技公司内部的拥挤ChTc度仍然很低，建议投xpe2者增持FAAMG股票。伯恩斯坦分析师ToniSacconaghi周一在报告称，今年上半年，资金从科UODY股转向价值股的趋势E8mm为明显。但总的来说NCQQ伯恩斯坦仍看好整个aY8Q技板块。伯恩斯坦报6aeO承认科技股存在一定0YJV险：“（尽管）一方3lrD，科技股估值接近20年高位，预计2021年和2022年科技股盈利增长将与大盘持hojy或低于大盘，且科技c1S1面临更高的税率上调vX3J险。”“不过，科技uFAZ业未来5年的预期增长仍将持续强劲，科技uLTn业拥有最高的质量评4lU4、最高的投资回报率5cZ4以及第二高的自由现bufw流收益率，而且与历v5m0相比，科技公司内部uUF9拥挤程度仍然很低。p3sv报告写道。对于今年ylje半年，Sacconaghi建议投资者增持FAAMG股票，包括:脸书（Facebook）、苹果（Apple）、亚马逊（Amazon）、微软（Microsoft）和谷歌（Google）母公司Alphabet。“FAAMG占科技公司总市值的50%左右(2000年为10%)，仓位是关键，”Sacconaghi表示。“自2013年以来，FAAMG股票的整体市盈率首次s6tv于科技股的平均市盈4O7X，但增长预期仍高于vTgl体科技股。”伯恩斯bH3d分析师给予亚马逊、Facebook、Alphabet和微软“跑赢大盘”评级。Sacconaghi补充道，“我们注意到谷kg4v和Facebook的市盈率，都比当前科eTsH股整体市盈率低25%。”减持价格昂贵、hgRH量评分低的科技股伯vsez斯坦还建议减持价格NB1H贵、质量评分低的科DvIH股。以下是伯恩斯坦w7GR出的公司质量评分表1L15Sacconaghi表示:“人们对最贵的前20%科技股抱有太高的期望，这些股票xyXk均市销率（P/SRatio）为15.9倍，其中98%的股票是无利可图的。”“我YfVe最担心的是增长放缓dCOd质量分数较低的公司d2Dt这些公司目前集中于EGvM小盘软件和互联网产6n4b公司，我们鼓励投资ye5J考虑有选择地减少（JKtj些公司的）风险敞口epWl”
美东时间周四（15日），摩根士丹利分析师休伯蒂(KatyHuberty)发布报告，将苹果公司目标股价提高到166美元，这较周四收盘还有逾一成上升空间EVdL乐观情景目标价为245美元。休伯蒂称，此次目标股价上调，不snBl是考虑到苹果第三财季（截止至6月末）业绩强劲，还因为2022年新产品发布周期的影响力。苹xZPr将于美国东部时间7月27日下午（北京时间7月28日）发布2021财年第三季度财报，并于美国东部时间7月27日下午5点（北京时间7月28日凌晨5点）召开财报电话会议。休伯特预计，苹vhaQ第三财季的iPhone产量同比增长了6%，iPhone出货量达到4400万部；同时，预计iPad产量同比增长了28%，出货量达到1760万台。Mac电脑的销量虽然略低于摩根士丹利66st预期，但同比还是有所增长。休1Wkk特援引IDC的数据称，苹果6月当季Mac出货量为610万台，同比增长9%。而该机构此前预计Mac电脑的销量为640万台。摩根士丹利预计，AppStore在第三财季的收益将达到167亿美元，同比增长27.1%。整体而言，苹果第三财季总营收将zZEi到747亿美元，较市场的平均预期高出2%，同比增长25%。“我们是9月iPhone13上市的买家。”休伯蒂写道：“我们HSSR到成熟的更换周期、5G采用率增长、门店客流量改善、电池寿命KBX5长和拍照质量（提高）···4q6U·这些综合因素都是iPhone优于过去’S’系列周期的驱动力量。”休伯蒂预计，苹果今年第BVDs财季（9月当季）的“iPhone13”组装最早将于8月底就开始。她表示，苹果第四财季营收zQYr计将达到832亿美元，其中iPhone营收同比增长55%——考虑到2020年iPhone产品上市时间较晚，这是比较容易458z出的一个结论。上调目标股价休Y8sb蒂称，自6月初以来苹果股价累计上涨逾20%，原因有三：其一，科技巨头表现普遍好，苹果、亚vCEX逊、Alphabet、微软和Facebook涨幅均高于标普500指数；其二，6月份AppStore业务增长加速；第三，供应链的数据显示iPhone产量增长强劲。休伯特预计，2021年下半年，iPhone13的产量将达到9000万部，较上年同期增长约18%。整体而言，今年下半年的iPhone出货量有望达到1.39亿部。另外，休伯特预计iPhone2022年出货量将达到2.385亿部，高于之前预期的2.31亿部，这意味着iPhone的平均更换周期将从3.6年略微缩短至3.4年。报告称，如果未来iPhone出货量达到历史最高水平，消费者的XCHo品购买转向更高端的“iPhone13”型号，那么苹果目标股价乐观情况下可看到245美元。不过，如果iPhone的强势“未能在2021财年更深入的体现”，叠加需求减弱，那么苹果166美元目标股价也可能难以达到Uf4w
7月16日消息，长江存储就lFCU光集团被申请42SB组发布声明称UFID紫光集团是公9LJC的投资股东之eC3G，长江存储有H1zu立的治理架构Ver9始终保持独立jTnM营。目前，长p2Bh存储的管理团xDzr稳定，运营正MbGt，资金储备充pDkk。长江存储的qPGV营活动将不会TzWD到紫光集团此Dilw破产重整的司4sDL程序的直接影5lrx。企查查App显示，长江存sJGF科技有限责任1fH1司成立于2016年，法定代表人为赵伟国，tQPu司经营范围含nuQH导体集成电路AGme技领域内的技IjZh开发；集成电zx0c及相关产品的7ppy计、研发、测DKPH、封装、制造HMVR销售；货物进4Y6y口等Sfbh
