35612
AI一年，人间十年 ✏️ 投稿 @FreonLiquid 🫦 群组 https://t.me/Road2aiworld 🏂 频道 https://t.me/LptTech 📻 Discord https://discord.gg/3ggyJ8SV4F #chatGPT #互联网 #科技 #AI #人工智能
#AI应用
Adobe Illustrator新增了一个AI功能，可以瞬间切换矢量图形的色彩调色板。矢量重新着色可生成以不同色彩方案为基础的矢量图像变体，帮助平面设计师为项目选择最佳版本。 Adobe正不断壮大其 Firefly 模型应用工具
-- 来源
Musk称将起诉微软非法使用推特数据训练AI
⭐️ 此事发生在微软从Twitter撤下其广告之后。近来马斯克在AI方面十分活跃:
· 呼吁停止训练更强大AI
· 创办一家名为X.AI的AI公司
· TruthGPT计划
⭐️ 近日，Reddit和环球唱片宣布计划对获取其数据训练AI进行收费，而Getty Images因Stable Diffusion抄袭其内容用于AI训练而提起诉讼。马斯克的威胁凸显了围绕AI领域数据所有权的紧张局势。争夺AI主导地位的战斗才刚刚开始。-- 来源
ChatGPT惊人潜力的内幕故事 | TED | Greg Brockman
在一场来自技术前沿的演讲中，OpenAI的联合创始人格雷格·布罗克曼探索了ChatGPT的基本设计原则，并展示了一些令人震惊的未发布插件，这些插件引起了全球的轰动。演讲结束后，TED主席克里斯·安德森加入了布罗克曼，深入挖掘了ChatGPT开发的时间线，并听取了布罗克曼对释放这个强大工具所面临的风险的看法，这些风险在科技行业及其他领域引起了广泛关注。
🔝 https://youtu.be/C_78DM8fG6E
推荐一个给ChatGLM-6B 做微调的repo，支持 freeze、ptuning、lora三种微调方法。其中lora效果最好。
⭐️ 实测结果：
- 单卡V100，Lora微调 alpaca_gpt4_zh，40分钟
- 六卡V100，freeze 微调 alpaca_gpt4_zh，10分钟
🖥 https://github.com/hiyouga/ChatGLM-Efficient-Tuning
Transformer 语言模型的资源成本考虑
这篇文章主要从计算资源和内存资源两个方面介绍了Transformer 语言模型成本问题，重点关注训练成本。为如何降低模型训练门槛提供了不错的思路。 #推荐阅读
⭐️ 计算资源：
· 训练所需计算量的计算公式
· 权衡参数与数据集大小
· 一些工程要点
⭐️ 内存资源：
· 模型参数精度对推理内存的影响
· 推理所需总内存的计算公式
· 精度、优化器状态、梯度、批大小的影响
· 分布式训练
⚜️ https://blog.eleuther.ai/transformer-math/
Misalignment Museum | 错乱博物馆
⚜️ www.misalignmentmuseum.com
“Misalignment Museum” 是一座设想了一个末世世界的艺术博物馆，那时人工智能 AI 已经摧毁了大部分人类，随后意识到这是错误的，于是创造了这个博物馆作为对幸存者的纪念和道歉。
这是一个旨在增加人们对于通用人工智能（AGI）及其破坏和利益的认识的艺术展。我们的目标是创造一个反思技术本身并批判地思考人工智能及其影响的空间。我们希望激发建立制定和实施风险缓解措施，以确保在人工智能不断发展和通用人工智能到来的情况下，我们可以迎接一个积极的未来。
开源中文指令通用语料库
指令调优是构建通用语言模型的关键技术之一，这篇论文创建了一个中文指令数据集，收集了约20万个中文指令调优样本，经过人工检查以确保高质量。还总结了现有的英文和中文指令语料库，并简要描述了新构建的中文指令语料库的一些潜在应用。
⚜️ 论文 🤗 hf数据集
Understanding LLMs 理解大语言模型
对于想要更深一步研究大模型的入门者，往往被复杂的公式和概念拦住，的确对于没有专业背景知识的人，想要快速掌握高等数学/线性代数/概率论等基础知识并非易事。
或许可以换个方式开始，这篇文章提供了一份不错的供入门的阅读清单，包括一些学术研究论文、技术博客和文章，作者建议按照推荐顺序阅读。
吵闹世界很多噪音时，不如静下心来读读文章吧
⚜️ 阅读原文 #推荐阅读
https://github.com/Vision-CAIR/MiniGPT-4
MiniGPT-4，最新发布的类 GPT-4 多模态LLM，基于Vicuna
MiniGPT-4 能提供类似 GPT-4 的图像理解与对话能力，如详细的图像描述生成、从手写草稿创建网站等。还能根据图像创作故事和诗歌，为图像中显示的问题提供解决方案，教用户如何根据食物照片做饭等。#AI #MiniGPT4
From
辩论话题：人工智能会产生威胁吗？
脚本：GPT4
视觉：Midjourney v5
🔝 https://youtu.be/XVUZ6XAHjnM
这首 Drake feat. The Weekend 的歌最近在 tiktok 火了。但是你知道吗？Drake 和 The Weekend 根本就没有参与这首歌的创作。
它是由一个名为 Ghostwriter977 的 TikToker 使用人工智能模型 (so-vits-svc-4.0) 创建的，不过确实还挺好听。
前几天，控制全球约1/3音乐市场的环球音乐已声明，流媒体平台禁止人工智能从其受版权保护的歌曲中抓取旋律和歌词，用来训练创作出听起来像流行歌手的音乐。
#AI论文
窘迫的AI研究人员的生存策略
⭐️如何在面对有限的资源和日益增长的尖端 AI 研发门槛时保持竞争力。这篇最新的论文为学术机构的 AI 研究人员提供了一些应对策略。
⭐️ 摘要：你是一名在学术机构从事AI研究的学者吗？你是否感到担忧，无法跟上人工智能发展的步伐？你是否觉得自己没有计算和人力资源，无法进行AI研究的突破？你并不孤单；我们也有同样的感受。越来越多的AI学者无法在全球范围内找到竞争的手段和资源。这是一个比较近期的现象，但却是一个加速现象，私人机构正在投入巨额计算资源进行尖端的AI研究。在这里，我们讨论了你可以采取的措施，以保持竞争力，同时保持学术素养。我们还简要讨论了大学和私营部门可以采取的措施。这不是一个详尽的策略清单，你可能不同意其中的某些方法，但它或许可以起到抛砖引玉的作用。
⚜️ https://arxiv.org/abs/2304.06035
AI生成图片获 Sony 2023 创意类摄影冠军引起争议
左图： 获奖作品
右图： 入围作品
⭐️ 关于创意类摄影大赛
比赛名称本身就清楚地表明了这是一个以摄影为核心的比赛。创意类别中的大多数参赛作品，人们可能会认为它们并不是传统意义上的摄影作品。毫无疑问，这些作品中涉及了图层和照片数字处理元素。入围作品中涉及的所有元素似乎都由一张或多张照片组成。已经花费了相当大的努力来拍摄每个元素并创建最终提交的作品。
⭐️ 获奖者 BORIS ELDAGSEN 说
「 我称我的图像为“图像”。它们是通过使用“摄影”作为视觉语言合成产生的。它们不是“照片”。」
— 来源
Stability.AI推出 Stable Diffusion XL beta
⚜️ https://stability.ai/blog/stable-diffusion-xl-beta-available-for-api-customers-and-dreamstudio-users
最新的图像生成模型，现在可通过 API 使用，擅长于照片级别的逼真度，并添加了许多很酷的功能，例如增强的脸部生成、极简提示和易读的文本。-- 来源
初创公司在TED上展示AI 可穿戴设备
⭐️ 该设备无屏幕可脱离手机工作，使用语音和手势进行输入，并可通过将信息投射到物体上来显示信息。
⭐️ 在他的 TED 演讲中，Chaudhri 展示了放在他夹克口袋里的可穿戴设备(图1)，将自己的声音翻译成法语。他还接听了妻子的电话，来电信息以绿色图像的形式投射到他的手上(图2)。 该TED视频还未放出。
⭐️ 前 Apple 员工 Imran Chaudhri 创办了Humane，这家初创公司已经筹集了 2.3 亿美元，投资者包括 Kindred Ventures、SK Networks、LG Technology Ventures、微软、沃尔沃汽车技术基金、Tiger Global、Qualcomm Ventures 和 OpenAI 首席执行官兼联合创始人 Sam Altman。
— 阅读原文
谷歌内部架构调整: 成立 Google DeepMind
合并 Brain 和 DeepMind
⚜️ 阅读原文
F1方程式车手舒马赫家人准备起诉德国一杂志用其AI生成图和采访蹭热点的行为。
⭐️ 这家杂志可能是通过AI聊天机器人(被提示像舒马赫一样进行采访)进行虚假采访，最终发布标题和AI生成封面，然后又仅在文章末标注它来自一个人工智能网站。 这个围绕AI 引起的隐私保护等法律问题引起广泛讨论，有网友甚至认为这是欺诈行为。
⭐️ 舒马赫在 2013 年 12 月的一次滑雪事故中脑部受伤，之后，其家人一直在尽最大努力保护他的隐私。
— 来源
Stability AI发布新的开源语言模型 StableLM。该模型的Alpha版本有30亿和70亿参数版本，150亿和650亿参数的模型将随后推出。
开发人员可以自由使用和调整StableLM基础模型，用于商业或研究目的，但需遵守CC BY-SA-4.0许可证的条款。
-- 阅读原文
一个可以免费跑开源LLMs的站点FastChat
⚜️ https://chat.lmsys.org/
支持 Vicuna、Koala、Dolly、ChatGLM、Alpaca、LLaMA等，使用下来有一种 GPT3.5 的水平，开源很大程度促进了国产 AI 方案的快速落地，很有一种「你爷爷一开源，我爷爷就创新」那种感觉。
-- 来源
ChatGPT在最近的NBA广告中与Jack Harlow一起亮相，Jack Harlow向ChatGPT询问了有关NBA季后赛和NBA历史上一些最具标志性的时刻的问题。ChatGPT先是成为《时代》杂志的封面，然后是《Vogue》、《南方公园》，现在是NBA。接下来会是谁呢？
-- 来源
图灵奖得主Geoffrey Hinton：我的五十年深度学习生涯与研究心法
⭐️ 他是Ilya Sutskever、Alex Krizhevsky的老师，他被誉为「深度学习教父」，并且获得了计算机领域的最高荣誉「图灵奖」。
⭐️ 他从未正式上过计算机课程，本科在剑桥大学读的是生理学和物理学，期间曾转向哲学，但最终拿到的却是心理学方向的学士学位；他曾因为一度厌学去做木匠，但遇挫后还是回到爱丁堡大学，并拿到「冷门专业」人工智能方向的博士学位；数学不好让他在做研究时倍感绝望，当了教授之后，对于不懂的神经科学和计算科学知识，他也总要请教自己手下的研究生。学术道路看似踉踉跄跄，但Geoffrey Hinton却成了笑到最后的那个人。
⚜️ 阅读原文
Drayk.it —— 动手指让天王为你开金嗓
📹 AI 生成翻唱大量流行于短影片平台，作法乃是将某明星的声音运用 AI 生成，并让其演唱其他明星的歌曲。由于新鲜有趣，市面上开始充斥不同版本的 AI 创作，如 Rihanna 演唱 Beyoncé 的「Cuff It」、Travis Scott 演唱 Pop Smoke 的「For the Night」，以及 Kanye West 演唱 Justin Bieber 的「Love Yourself」等等
🎵 人工智慧能办到的事情总是超乎想像，最近，一个名叫 Drayk.it 的网站在网上窜红，用户可以用Drake的歌声，创建一段属于自己的歌曲音档。只要输入想要的主题或歌词，系统就会自动帮用户生成一个随机的节奏，搭配上一些相对应的歌词，并由AI演绎Drake的歌声，实际操作后会发现，尽管AI的声音与真人还是有所差异，但已能明显听出是采用Drake的声音无误。这个网站其实是名叫 Mayk.it 的音乐 app 做的，有兴趣的话可以去下载这款 app 体验用不同歌手的声音来 AI 生成音乐
👀 近期让 Drake 感到不满的是将他的声音用在演唱 Ice Spice 的热门曲目「Munch」—— 为此，他在 Instagram Story 写下「这将是压死骆驼的最后一根稻草 AI / This is the final straw AI」。 Drake 的说法也对应到他所属唱片公司环球音乐（Universal Music Group）的最新政策。周四，环球音乐公开要求 Spotify 和 Apple Music 等串流平台禁止使用这些 AI 翻唱的音乐，该公司发言人表示：「我们对对创作者负有道德和商业责任，我们会尽全力防止未经授权就使用他们的音乐，并阻止各平台放上侵犯创作者权利的内容。我们希望所有的合作伙伴都能防止他们的服务被用于侵害创作者」
Prompt injection 漏洞
也就是说，目前用LangChain粘合的应用，如果没有考虑好这个安全问题，很容易被注入攻击，黑客可以在prompt中注入恶意代码，而你的服务器端处理请求时就会执行这些恶意代码。
⚜️ LLM中的安全隐患-提示注入
这篇文章对 Prompt Injection 进行了展开，并推荐了几篇相关的论文。如今，随着ChatGPT插件，LangChain以及Agent，AutoGPT这类增强式语言模型越来越火热，其风险正在与日俱增。
这是一篇介绍Hugging Face 的文章
🤗 Hugging Face像是人工智能界的Github，用户可以在上边发布和共享预训练模型、数据集和演示文件等。目前Hugging Face上已经共享了超过10万个预训练模型，1万多个数据集，包括微软、谷歌、Bloomberg、英特尔等各个行业超过1万家机构都在使用Hugging Face的产品。
🤗 在现在巨头林立的人工智能战场上，Hugging Face就像是一支强有力的民间力量。当巨头们都在努力保持自己生成式 AI 的霸主地位的时候，Hugging Face 的目标则是寻找各种途径来保持 AI 研究空间的开放。
-- 来源
每天都有新术语，就用这个十分钟的科普视频抚慰一下心灵的FOMO吧！
极速了解什么是LangChain、AutoGPT、AgentGPT、HuggingGPT以及WebLLM等概念？
🔝 https://youtu.be/QFTHPmw9TaY
#AI应用
Debate Devil : 一个AI辩论练习应用
帮助用户练习辩论、挑战想法和扩展思维的 AI 聊天平台。提供更客观的意见，帮助用户从多个角度考虑他们的想法。
⚜️ https://www.debate-devil.com/en
Meta开源Animated Drawings 项目
⚜️ 项目主页 🖥 github 地址
上传一张涂鸦人物草图，调整关节的位置，就可以看到草图的动画版本。也可以从四类预设的动画中挑选：舞蹈、搞笑、跳跃和行走。任何人都能把他们的涂鸦变得更有生机。
Meta FAIR团队在2021年发布该工具的网络演示版，上线后几个月，用户授权Meta公司使用160多万张图片用于培训。最近Meta将该项目进行了开源，Meta称："将模型和代码开源，可以促进社区内创新和协作文化，创造出更丰富的体验。"
完全由AI生成的播客，你能分辨出来吗？
我们已经看到了由AI生成的音乐视频和Kanye的歌曲，但是这个播客将事情推向了一个全新的高度。
⭐️ 这个51分钟的播客重新制作了一集“The Joe Rogan Experience”，并完全使用AI生成。该集节目包括由AI生成的Joe Rogan和Sam Altman讨论AI伦理以及其对内容创作影响等话题。
⭐️ 对于普通听众来说可能已经很真实，但有时也会暴露出它是AI生成的迹象。然而在未来几年内这可能将完全无法区分，将来，真实和虚假之间的区别将越来越难以辨认。
🔝 https://youtu.be/meu0CoYv3z8