HeadlinesBriefing favicon HeadlinesBriefing.com

Perplexity がハイブリッドコンピュートを開始、AIタスクの分割に対応

Engadget •
×

Perplexity がハイブリッドコンピュートを開始、AIタスクをクラウド型フロンティアモデルとローカルLLM(ユーザーのマシン上で動作)の間で分割します。Perplexity Mac アプリに統合されたこのツールは、自動的に感度の高いコンテンツを検出し、ユーザーに機密データをデバイス上に保管するよう促します。新しいプライバシークラスिफァイアは、どのファイルをローカルに残すべきかを提案し、処理開始前にユーザーがこれらの決定を確認できるようにします。ケースブリーフを作成している弁護士や、機密情報を扱うその他のプロフェッショナルを主要な使用事例として挙げます。ローカルモデルのオプションにはGemma 2BとQwenの35億パラメーターモデルの2つの変種が含まれており、そのうち1つはPerplexityによってpost-訓練されています。システムはインストールにターミナルアクセスを必要とせず、リアルタイムのCPU、GPU、メモリ使用量を表示します。ユーザーはiPhoneでタスクをキューに入れ、ローカル処理のトークン料金を回避できます。PerplexityのJon Staffは、完全にクラウドベースのモデル still superior outputs を noted が、ハイブリッドコンピュートはプライバシー、コスト、能力のバランスを提供します。現在、Apple Silicon Mac で macOS 15 を実行している場合にのみ利用可能で、少なくとも32GBの統合メモリが必要です。Pro、Max、およびエンタープライズのサブスクライバーに利用可能です。