Open github-actions[bot] opened 1 month ago
2024-08-14 22:14:32
给小伙伴汇报一下LLM创业第一年的进展、纠结和反思
在Amazon呆到第五年的时候就想着创业了,但被疫情耽搁了。到第7年半的时候,觉得太痒了,就提了离职。现在想来,如果有什么事这一辈子总要试下的,就蹭早。因为真开始后会发现有太多新东西要学,总感叹为啥没能早点开始。
创业前做了一系列用Gluon命名的项目。在量子物理里,Gluon是把夸克绑在一起的一种玻色子,象征这个项目一开始是Amazon和Microsoft的联合项目。当时项目经理拍拍脑袋名字就出来了,但取名对程序员来说很困难,我们每天都在纠结各种文件名和变量名。最后新公司干脆就用玻色子(Boson)来命名了。希望大家能get到“Boson和费米子组成了世界”这个梗时会会心一笑。但没料到很多人会看成Boston。
“我来波士顿了,找个时间碰碰?” “哈?可我在湾区呀 ”
22年年底的时候想到两个用大语言模型(LLM)做生产力工具的想法。碰巧遇到张一鸣,就向他请教。讨论之后他反问:为什么不做LLM本身呢?我的下意识退缩:我们之前在Amazon的团队做了好几年这个,得上万张卡,和blabla这么一大堆困难。一鸣呵呵表示:这些都是短期困难,眼光得看长远点。
我的优点是听劝,真就去做LLM了。凑齐了数据、预训练、后训练、和架构各方向负责人的创始团队,就去融资了。运气不错,很快拿到了种子投资。但钱还不够买卡,得去拿第二轮。这一轮领头是一家非常大的机构,做了几个月文档、商讨条款。但在签字前一天,领头说不投了,直接导致了跟投的几家退出。很感激剩下的投资方,还是做完了这一轮,拿到了做LLM的入场券。
今天反思的话,当时蹭着资本市场热情还在,其实可以继续融资,说不定也跟其他友商一样,现在十亿现金在手。当时担心融资太多,会不好退出,或
2024-08-14 19:52:23
秋风渐起,热暑消退,新学期即将开始,新同学将迎来一段不同以往的校园生活。
初入校园的你可能想知道:
高中生进入大学,有哪些必须知道的常识和经验?大学生如何在大学里面静下心去学习?大学加入学生会或社团有必要吗?大学生一个月生活费多少才够花?新学期开始,又有哪些学习新装备是必备的呢?......
@知乎校园 联合 @知乎数码 共同发起 「你好!新同学」2024 开学季特别活动,从「衣、食、住、行、学、买」等多方面为大家困惑和感兴趣的问题提供经验和解答!
回答活动圆桌收录的问题,满足字数≥300、图片数≥3 ,互动数(喜欢+赞同+评论+收藏≥5),回答数≥2,讨论方向与活动主题相关,即有机会瓜分奖池。
2024-08-14 11:14:21
在很多年以前,当我还是一个小毛孩时,电子游戏就已经深深吸引着我,当然在那个时代,这并不算什么特别光荣的事情,因为当时的电子游戏又被称作电子海洛因,有无数的学生因为沉迷于此,因此当他们的考试成绩下降时,游戏无疑成了最好的背锅侠,久而久之就成为了长辈们最痛恨的东西。
不幸的是我就属于家长和老师们口中的坏学生,“电子游戏”实在太令我着迷了,我几乎想尽了一切办法,挤出一点时间偷偷溜出去,好在游戏厅里大快朵颐。
随着时代发展,从电子游戏厅到PC流行起来后的电脑主机游戏,可以说非常幸运,我的游戏生涯的起点,就是游戏作品的辉煌时期,很多的经典游戏像是《合金弹头》《星际争霸》《英雄无敌》《仙剑奇侠传》《大富翁》《流星蝴蝶剑》等等等等,制作精良,玩法新颖,构思巧妙,很多的剧情及背景设定,不亚于一部史诗级小说巨作,每一部作品都足矣令人沉醉其中,即使放在今天,仍然是游戏中的巅峰之作。当我玩过了大多数这些无比优秀的作品后,有的不仅是游戏体验带给我的乐趣,更有对游戏制作者带有无比敬仰的崇拜,从那时开始,自己制作游戏就成为了我人生的梦想之一。
于是在接下来的二十载,我学习涉猎了游戏引擎,图形学,声学,数字信号处理等等多个跨领域学科,在今天,我终于有能力干了一个很久以前我就想干的一件事-----自己动手实现一个RTL级的图形加速器,当然它有一个大家都非常熟悉的名字,就是显卡(也许叫显片更合适),或者叫GPU(Graphics Processing Unit)。
这也是我写下这篇文章的最终目的,比较有意思的是,你可以在互联网上找到非常多的“30天教你自制CPU”的书籍或教程视频,但你很难找到教你制作GPU的文章,商业GPU是一个无比庞大的工程,它需要多个领域的顶尖科研人员多年的努力,但是我们并不需要做的那么复杂,它甚至比实现一个CPU还要简单的多,因此正是基于这样一个简单的目的,我将使用verilog基于FPGA设计一款能够加速我们图形渲染速度的IP核,那么它就是一个名副其实的GPU,尽管这个实现仍
2024-08-12 14:20:33
这是一张有味道的动图,眼前这位身形如同巨石一般的男人,正在闻他刚脱下来的鞋。
可以看到后面的观众在给他鼓掌。
这一套看着十分怪异的举动,被他以一种庄严肃穆的态度完成。
不了解的内情的人会觉得这无非是巴黎奥运会上抽象的一幕,了解内情的人恐怕会认为这一幕满含着深情,苦涩,以及崇敬。
在这一幕发生之前,此人刚刚战胜了智利运动员亚斯马尼·阿科斯塔,成为了本届奥运会130公斤级古典式摔跤男子冠军。
一次冠军而已,至于吗?
你说得对,一次也许不至于,那如果是五次呢?
2024-08-09 16:43:53
跳绳好处多多,看似简单,但对幼儿园的小朋友来说并不是件容易的事情。
跳绳对儿童肌肉、关节和韧带的生长发展有很大的帮助,还能提高孩子协调能力和弹跳力,是一项很非常好的运动。但小朋友刚开始学的时候可能遇到不少困难,这个过程我切身体会过。
我家Coco幼儿园在大班前的暑假就要求家长买跳绳,在家先带孩子熟悉一下。那时候她跳一个都困难,断断续续跳了几次,每次落地的位置还都不在一个地方。跳得特别高,落地时震天动地。
大班开学后,因为家里有事我们推迟两个星期去学校,老师说她刚开始觉得自己跟不上进度,还坐在操场上哭过一回……
为了帮她找回信心,我带孩子做过一些亲子练习,效果还是不错的。加上学校每天都安排绳操和跳绳,不到一个学期Coco就可以连续跳二下几下了,进步是肉眼可见的。
所以大家要相信孩子,就算一开始有点
2024-08-08 17:24:53
近日来在奥运赛场捷报频传,先是优势项目10米气步枪混合团体赛,阿条姐黄雨婷和干饭哥盛李豪顺利夺得首金。
接着传统优势项目乒乓球,混双比赛,王楚钦和孙颖莎顺利夺冠。
2024-08-08 16:35:31
作为一名纺织品化学工程师,我就从纺织材料这个角度来和大家好好聊聊这个问题。
全篇干货没废话,先说下我个人的3个结论
1)衣服看起来出汗明显≠速干效果差,反而可能更好
2)日标的速干衣标准更适合剧烈运动出汗场景
3)樊振东是真的爱出汗体质
很多消费者都会吐槽涤纶、尼龙这类化学纤维做的衣服穿起来闷热不透气,但实际上恰恰相反,涤纶、尼龙是运动速干衣的主流材料
在问题开始前,有个核心知识点一定要给大家讲清楚,那就是大众所说的“面料透气”是个非常复杂指标,不是面料孔隙多穿上去透气(直接测试透气性其实是防风指标)。
穿着透气不闷汗的本质,其实是让面料尽可能的吸收皮肤上的汗水,只要皮肤表面干爽你就会觉得穿着透气我们日常觉得棉T吸汗透气,是因为棉花的公定回潮率有8.5%(100g棉花能吸收空气中8.5g的水蒸气),你可以简单的理解成“饼干受潮变软”的这个过程。
2024-08-08 14:20:39
你的日常运动中,有哪些其实是「奥运项目」?
没有什么比“奥林匹克举重(Olympic Weightlifting)”这个名字更能直白地显示一项运动的奥运属性了吧。
把大重量用爆发力举起来在头顶撑住,是多么帅的一件事!然而,举重却不是每个人都爱看的项目。
2024-08-08 11:44:36
同为世界排名前十的对手,樊振东和张本智和的差距并不算太大。尤其是在这种巅峰对决中,双方的技战术几乎都是透明的了。即便是樊振东的胜面相对比较大,但是临场发挥的能力决定了这次比赛的胜负。由于王楚钦意外爆冷被淘汰,男单的压力就落在了樊振东的身上。
比赛有悬念,竞争更激烈,观众们才更喜欢看,也更符合比赛的本质。在万千人瞩目的焦点战,樊振东一开始就承受了额外的压力,导致失误不断,两局落后。一方面承受着巨大的压力,另一方面连续两局失利,压力陡增。如果任其继续下去,后果将不堪设想。好在短暂的离场更换球衣,能够暂时的从压力中脱离出来,重新投入战斗。
不要小看这短暂的离开,这几乎是胜利天平的转折点。因为运动员一旦压力过大,就发挥不出平时的水平来的。这也是王楚钦之前失利的重要原因。对于如何缓解压力,最有效的方法莫过于暂时的离开当下的环境。根据心理学的研究,人的压力跟比赛成绩,是呈倒U形曲线的关系。最开始的时候,虽然压力的增大,比赛成绩会慢慢提高。但是到了一定的峰值以后,如果压力再增加,比赛成绩反而会慢慢下降,这就是耶克斯--多德森定律。
2024-08-06 15:00:53
在2011年11月11日这个整整齐齐的日子里,旗下单人RPG《上古卷轴III:晨风》、《上古卷轴IV:湮灭》和《辐射3》连续三作蝉联年度游戏桂冠的Bethesda Game Studios推出了一款至今仍在各个“史上最伟大电子游戏”列表中不断抛头露面的《上古卷轴V:天际》。
《天际》发售11年后,Bethesda Game Studios的单人RPG已经连续五作都获得年度游戏称号,但《天际》在无数玩家心中却是连BGS自己都未能超越的那个典范之作。《天际》并非开放世界RPG鼻祖,也并非类型缔造者或各方面的登峰造极者,但BGS却给这款游戏的各个方面赋予了绝妙的平衡,正是这样的恰到好处让《天际》如同iPhone定义智能手机一般,定义了我们目前所见的开放世界类别。《天际》立于开放世界品类之标杆,《塞尔达传说:旷野之息》总监藤林秀麿认为,《天际》能让开发者更好理解制作一个如此规模的开放世界到底需要些什么。
我们该怎么样才能为此做准备?我们对于像(《天际》)这样的游戏的期待是什么? —《塞尔达传说:不可思议的果实/众神的三角力量与四人之剑/缩小帽/御天之剑/旷野之息/王国之泪》总监藤林秀麿
知乎每日精选 2024-10-13 更新