OpenAI、2024年世界選挙前にAI引用および画像安全対策を発表

Home AIニュース OpenAI、2024年世界選挙前にAI引用および画像安全対策を発表

先週、OpenAIはGPTストアをオープンし、サードパーティのクリエイターがカスタムチャットボット（GPT）を展示し、収益化できるようにしました。しかし、同社の革新は2024年1月に入っても止まりませんでした。

月曜日、OpenAIはAIツールに関する新しい安全対策をまとめたブログ記事を発表しました。特に、画像生成モデルDALL-EとChatGPTにおける引用の実践に焦点を当てています。この取り組みは、今年後半に予定されている多数の選挙を前に、誤情報対策を目指しています。ブログでは「選挙の完全性を守るためには、民主的プロセスのあらゆる側面からの協力が必要であり、私たちの技術がこのプロセスを損なう形で使用されないように努めたい」と述べています。

現在の安全対策の一環として、「報告」機能が提供されており、ユーザーはカスタムGPTに関する潜在的な違反を通報できます。特に、実在の個人や組織を模倣するケースは、OpenAIの利用ポリシーに違反します。

期待される新しい対策

OpenAIのブログによると、ユーザーは近日中にリアルタイムのニュース報道をアクセスできるようになり、出典やリンクも表示されるため、ChatGPTを通じて得られる情報の信頼性が高まります。この機能はAP通信やAxel Springerなど、信頼の置けるメディアとの提携に基づいています。

特筆すべきは、OpenAIがコンテンツの由来と信憑性を保証するため、C2PA（Coalition for Content Provenance and Authenticity）による画像のクレデンシャルを導入する予定であることです。この取り組みは、AI生成コンテンツに対して暗号化されたデジタル透かしを適用し、今後もその検出性を確保することを目指しています。OpenAIは、DALL-E 3画像にC2PAクレデンシャルを統合する計画を持っていますが、具体的な日付はまだ発表されていません。

さらに、OpenAIはDALL-Eによって生成された画像を特定するための「由来分類器」をプレビューしました。このツールは2023年秋のDALL-E 3の発表時に初めて言及され、ユーザーが画像をアップロードしてそのAI起源を確認できるようにします。「私たちの内部テストでは、一般的な修正を施した画像でも良好な結果が得られました」とブログに記されています。「近日中に報道関係者やプラットフォーム、研究者を含む最初のテスターグループに展開し、フィードバックを得る予定です。」

政治キャンペーンにおけるAIの役割

米国の共和党全国委員会（RNC）などの政治団体がメッセージングにAIを活用する中で、特に対立候補を模倣する技術が進化していますが、OpenAIの言及した安全対策が予想されるデジタル誤情報の波を抑えるためにどれほど効果的であるかは不透明です。それでも、OpenAIは自社のツールの誤用に対する懸念がある中で、真実と正確性の支持者としての立ち位置を明確にしています。

2024年WEFレポート：サイバーセキュリティの優先事項—デジタル時代における信頼再構築のためのゼロトラストの重要性

パインコーンがAIの幻覚を打破する革新的なベクターデータベースアーキテクチャを発表

Most people like

Beauty.AI

15.2K

従来のビューティーコンテストに革新をもたらすAIビューティーコンテストが、ロボットによって評価されるようになりました。この画期的なイベントは、テクノロジーと美学を融合させ、デジタル領域における美の概念を問い直します。高度なアルゴリズムと人工知能を活用することで、このコンテストは創造性の限界を押し広げ、ますます自動化や機械学習の影響を受ける世界における美の意味を探求します。

人工知能 Other

Second Nature

31.6K

AIを活用したロールプレイで営業パフォーマンスを向上させる革新的なAI駆動のロールプレイ戦略で、営業チームの潜在能力を引き出しましょう。実際のシナリオをシミュレーションすることで、これらのインタラクティブなツールは貴重なフィードバックを提供し、コミュニケーションスキルを向上させます。その結果、営業成功が促進されます。トレーニングにAI技術を統合することで、営業アプローチがどのように変革され、測定可能な成果を導くのかを探ってみましょう。

営業トレーニングソフトウェア AI Product Description Generator

Poker Bot AI+

23.5K

オンラインポーカーの自動化の可能性を活用して、利益を増やしましょう。

オンラインポーカー Large Language Models (LLMs)

Mera Monitor

10.7K

チームの効率を向上させるために、業務の生産性とパフォーマンスを追跡するために設計された強力なワークフォース分析ツールを活用してください。

従業員監視 AI Analytics Assistant

Find AI tools in YBX