ハーバード大学は木曜日、約100万冊のパブリックドメイン書籍を含む高品質なデータセットを公開すると発表しました。これは、誰でも大規模言語モデルやその他のAIツールをトレーニングするために利用できます。このデータセットは、ハーバード大学が新設した機関データイニシアチブ（Institutional Data Initiative）によって作成され、マイクロソフトとOpenAIの資金提供を受けています。収録されている書籍はすべて、Google ブックスプロジェクトでスキャンされた、著作権の保護期限が切れた作品です。

『ニューヨーク・タイムズ』と『デイリー・ニュース』は著作権訴訟で予期せぬ展開に直面。OpenAIのエンジニアが、重要な証拠となりうる仮想マシンの検索データを誤って削除したことで、注目を集めるこの訴訟に新たなドラマが加わった。水曜夜、ニューヨーク南地区合衆国地方裁判所に提出された書簡によると、両メディアの弁護士と技術専門家は、OpenAIのAIトレーニングデータセットの検索に150時間以上を費やしていた。しかし、11月14日、OpenAIのエンジニアが仮想マシンに保存されていたデータを誤って削除した。

LAIONは、CSAM（児童性的虐待素材）へのリンクを包括的に削除した世界初のAIトレーニングデータセットであるRe-LAION-5Bを発表しました。これは、児童性的虐待素材の問題に対処することを目的としています。このデータセットはLAION-5Bを大幅に改良したもので、Re-LAION-5B ResearchとResearch-Safeの2つのバージョンがあり、合計2236個のCSAMリンクが削除されています。そのうち1008個は児童保護団体のリストに掲載されていたものです。このデータセットは、テキストと画像のペアを55億個含んでおり、…

先日、国家スーパーコンピューティング成都センター、中国地震局地球物理研究所、清華大学が共同開発した地震波大規模言語モデル「谛听」が四川省成都で正式に発表されました。このモデルは、国内初となる億級パラメーター規模の地震波大規模言語モデルであり、中国の地震学研究と人工知能技術の融合における重要なブレークスルーを意味します。

5月に企業向けアプリケーションに適したGranite13B LLMモデルをオープンソース化したIBM。今回、IBMのAIプラットフォーム製品担当バイスプレジデントであるアーマンド・ルイーズ（Armand Ruiz）氏が、Granite13Bのトレーニングに使用された6.48TBのデータセットの全容を公開しました。

智源研究院は、コード生成モデルに、より挑戦的なトレーニングデータと評価基準を提供することを目的とした、TACOというコード生成トレーニングデータセットを発表しました。TACOは、データ規模、品質、評価方法において優れており、大規模なトレーニングセットとテストセット、多様な解答、詳細なラベルが含まれています。実験結果によると、現在普及しているコード生成モデルは、TACO評価においてGPT-4と顕著な違いがあり、この分野には依然として改善の余地があることが示されています。TACOは単なる挑戦的なデータセットではなく、…

OpenAIはData Partnershipsプログラムを開始し、AIモデルのトレーニングに使用される公共およびプライベートデータセットの作成において、第三者機関と連携しています。OpenAIは、AIモデルの幅広い理解を向上させるため、多様な分野、多言語、多様な形式のデータを求めています。より安全で、全人類に利益をもたらすAIという目標を達成するため、画像、音声、ビデオなど、様々な形式のデータの収集を計画しています。OpenAIの取り組みは、データ所有者の権利と透明性に関する議論を引き起こしています。

海賊版対策団体が、オンライン上の海賊版書籍リポジトリ「The Eye」に対し、AIトレーニングデータセット「Books3」のオフライン化を要求し、成功しました。「Books3」は37GBのテキストデータを含むデータセットで、多くの企業がAIモデルのトレーニングに使用していました。海賊版対策団体は、AIが著作権に新たな課題をもたらしていると主張し、当該データセットを保有する他のウェブサイトへの対策も継続していくとしています。