戴尔宣布将在2024年裁员以控制成本，员工总数预计减少。尽管AI服务器销售增加，但高成本导致利润率承压。整体业务面临挑战，尤其是PC业务连续两年下滑，第二财季营收同比下降4%。戴尔通过裁员和AI投入应对市场压力，寻求新的增长点。

戴尔科技与红帽合作，将红帽企业 Linux AI（RHEL AI）整合进PowerEdge服务器，旨在简化企业开发、测试和部署AI模型的过程，特别是在混合云环境中实现人工智能和机器学习战略。此合作重点关注AI实施所需的资源，如强大服务器、计算能力和GPU，并提供灵活性高的平台。预计在第三季度，通过优化的AI硬件解决方案，结合戴尔PowerEdge服务器和RHEL AI，用户将获得一致的AI体验。RHEL AI作为红帽OpenShift AI的一部分，支持在分布式集群环境中高效运行AI模型，通过集成来自IBM研究的Granite大型语言模型和InstructLab模型对齐工具，采用“社区驱动”的开发模式。此次合作旨在通过在生成AI领域提供简化体验，加速构建和部署关键AI工作负载的进程。

研究员Naphtali Deutsch发现数百个开源大型语言模型(LLM)构建服务器和几十个向量数据库存在泄露大量敏感信息的问题，这源于企业在急于整合AI到工作流程中时忽视了相关工具的安全性。他通过破解438个Flowise服务器，揭示了存储的敏感数据，包括GitHub访问token、OpenAI API密钥、Flowise密码和API密钥等。此外，他还发现了30个向量数据库没有任何身份验证检查，存储了包括私人邮件、文件、客户个人信息和财务数据等敏感信息。向量数据库的泄露风险更大，可能遭受数据窃取、删除、破坏或植入恶意软件。专家建议企业限制对AI服务的访问，监控活动，保护传输的敏感数据，并始终应用软件更新。强调随着AI工具的普及，开发者的安全知识不足，安全性往往滞后于技术发展。

OpenAI今年面临高达50亿美元的亏损，主要因运行ChatGPT等AI产品的高昂成本。高昂支出包括租用微软服务器的近40亿美元费用，以及用于训练和更新AI模型的30亿美元。劳动成本占15亿美元，反映了公司为吸引和留住人才而大幅提高的薪资。面对巨额亏损和激烈竞争，OpenAI的盈利前景受到质疑，尤其是在竞争对手提供类似技术免费使用的情况下。OpenAI的GPT-4模型虽有创新，但其高昂运营成本和竞争压力可能对其未来盈利能力构成威胁。

微软宣布推出针对Phi-3小型语言模型的无服务器微调功能，允许开发者在Azure AI平台上轻松调整模型性能，无需管理底层基础设施，且初期免费。Phi-3模型，拥有30亿参数，适合企业开发者使用，提供高效性能，成本较低。与OpenAI的GPT-3.5相比，虽参数量较小，但在多种应用中表现相近。无服务器微调简化了操作，降低了门槛，并支持小型和中型模型的微调。这一功能的发布旨在帮助企业开发者根据需求优化模型，如Khan Academy已应用于教育软件。竞争加剧，微软此举与OpenAI、Meta和Mistral等提供商的竞争，推动AI领域发展。

OpenAI正与博通等芯片设计公司商讨开发新型AI服务器芯片，旨在提升AI开发中的计算能力，降低对Nvidia GPU的依赖，增强市场竞争力。此计划由OpenAI CEO山姆·奥特曼主导，旨在应对AI模型开发所需GPU短缺问题。OpenAI还计划招募曾在Google参与张量处理单元（TPU）开发的前员工，以协助芯片设计工作，并已开始与行业与政府各界进行对话，以增加AI基础设施的可及性。然而，OpenAI对这一消息并未给出完全的确认或否认。尽管此前曾透露有意开发定制AI芯片，且寻求大规模筹资支持新芯片项目，但因巨大筹资金额可能促使OpenAI选择与现有公司合作，以实现目标并降低成本。这一动作显示出了OpenAI在AI芯片领域的雄心。

埃隆・马斯克的人工智能初创公司 xAI 正在建造一台超级计算机，而戴尔科技和Super Micro将为该计算机提供服务器机架。马斯克在社交媒体平台 X 上表示，戴尔将组装 xAI 超级计算机一半的机架。对于另一半的合作伙伴，这位亿万富翁回复另一则帖子时提到了 “SMC”，指的是服务器制造商Super Micro。总部位于旧金山的超微计算机以与英伟达等芯片公司的紧密关系和其液冷技术而闻名，该公司向路透社证实了与 xAI 的合作关系。

["中兴通讯正加大AI服务器相关产品和解决方案的研发投入","公司推出AI服务器R5300 G5、R6500 G5、R6900 G5","持续优化性能，努力提升市场份额"]

["戴尔预测 2025 财年盈利超预期，主要得益于 AI 服务器需求增长。","AI 服务器配备英伟达图形处理单元，订单量急剧增长。","个人电脑市场复苏，AI 对其长期影响乐观。"]

["戴尔2024财年第四财季营收223亿美元，同比增长25%","全年营收884亿美元，运营利润52亿美元","现金股利提升20%，至每股1.78美元","基础设施解决方案集团第四财季营收93亿美元，服务器和网络业务营收49亿美元","客户端解决方案集团第四财季营收117亿美元，商用客户业务营收96亿美元","戴尔对2025财年持乐观态度"]

["苹果预计将斥资 47.5 亿美元购买超过 2 万台服务器支持人工智能技术","苹果将在生成式人工智能领域开辟新天地","全球服务器整机出货量预计约为1365.4万台，市场仍聚焦部署AI服务器","Foxconn、广达和超微电脑等公司在AI服务器订单上表现出色"]

["预估2024年全球服务器整机出货量年增2.05%","AI服务器占比约12.1%"]

["英伟达推出面向生成式AI的Spectrum-X以太网技术的服务器产品线","戴尔科技、惠普企业和联想成为首批集成Spectrum-X的公司","Spectrum-X提供1.6倍更高的人工智能通信性能","新系统将Spectrum-X与NVIDIA Tensor Core GPU和AI软件相结合","Spectrum-X通过与Spectrum-4和BlueField-3 SuperNIC的结合加速AI网络功能"]

["OpenAI 决定暂停 ChatGPT Plus 账号注册","服务器承受能力超出预期","确保用户有良好的使用体验","新功能使用量激增","服务不稳定的情况出现"]

["OpenAI的ChatGPT和API出现故障，持续约100分钟。","公司首席执行官表示新功能受到超出预期的使用需求，无法满足订阅用户的开放计划。","用户可创建自定义的ChatGPT，用于个人或专业任务，例如教育和娱乐。","OpenAI计划开设商店，用户可找到其他用户制作的ChatGPT，并赚取收益。","公司将推出GPT-4Turbo的预览版，升级更强大、速度更快。"]

["郭明錤预计苹果2024年将投入47.5亿美元购买AI服务器。","郭明錤认为苹果将用于训练自研AI模型,提高安全性。","苹果购买配备英伟达芯片的AI服务器。","郭明錤认为苹果AI投入仍落后于微软、Meta等。","郭明錤担心苹果AI业务未来,需要持续大量投入。"]

["中兴通讯推出最新 AI 服务器，支持大模型训练","针对中小型模型的训练和推理需求，中兴通讯推出 G5 系列服务器","中兴通讯计划在今年发布一款支持大模型训练的最新 AI 服务器"]

["🔥 <b>服务器市场规模</b>: 2023年上半年加速服务器市场规模达到31亿美元,同比增长54%。IDC预测,到2027年中国加速服务器市场规模将达到164亿美元。","📈 <b>GPU市场主导地位</b>: GPU服务器占据88%的市场份额,达到30亿美元。非GPU加速服务器以同比17%的增速占有了8%的市场份额,达到2亿美元。","🌱 <b>本土芯片发展</b>: 受供应链等因素影响,中国市场面临的算力缺口给国内的芯片发展带来新的机遇。本土AI芯片品牌出货超过5万张,占比10%左右。"]

["2023年上半年,我国加速服务器市场规模较上年同期大幅增长54%,达到31亿美元。","GPU服务器继续占主导地位,占88%的市场份额,但本土AI芯片也在快速发展。","本土芯片在技术和生态建设上还需进一步发展,要实现产学研深度合作。","到2027年中国加速服务器市场规模预计将达到164亿美元。"]

["2023年全球服务器出货量和ODM生产计划遭下修。","AI领域需求压缩了服务器新平台的放量规模。","DDR5导入比重预计将延后至2024年第三季底。"]