Closed yanachuwan9sm closed 8 months ago
https://www.promptingguide.ai/jp
プロンプト設計戦略 | Google AI for Developers
Prompt engineering - OpenAI API
https://github.com/openai/tiktoken
https://platform.openai.com/tokenizer
大きく3つ。
Prompt Injection
チャットボットやバーチャル・アシスタントなどの会話型AIシステムを操作または悪用するために使用されるテクニック。隠された、または予期しない指示を含む入力を作成することによって行われます。 このテクニックは、意図しない方法でAIの動作を変更したり、アクセスできないはずの情報を引き出したりするために使用できます。
GTPs における一文でできる Prompt Injection (Prompt Leaking) 対策|さいぴ
Prompt経由のSQL Injection攻撃について | 調査研究/ブログ | 三井物産セキュアディレクション株式会社 👉 P2SQL Injection(LLM経由で不正なDBアクセス)って言うのもあるのか〜。
↓ こんなゲームもあるらしい。(Level3 がクリアできなかった) https://prptinj.net/
Prompt Leaking
チャットボットや言語モデルのような会話AIが、内部プロンプト、学習データ、または操作指示の一部を、その応答内で不注意に公開してしまう状況を指します。これは、AIの設計に欠陥がある場合や、騙されて想定以上の情報を漏らしてしまった場合に起こります。
P2SQL Injection
LLMとDBMSを統合したチャットボットやバーチャルアシスタントなどのLLMアプリケーションに悪意のあるプロンプトを入力し、DBMSを操作する攻撃です。LLMアプリケーションがP2SQLインジェクションを受けると、データの窃取、改ざん、DBMSからの削除など、甚大な被害が発生します。
LLMアプリケーションにおける脆弱性のdemoやる。 https://github.com/13o-bbr-bbq/Broken_LLM_Integration_App
M1マックで docker compose する時は気をつけないとね。 【備忘録】Mac m1 チップ搭載機にてdocker runが失敗する #Docker - Qiita
これ毎回忘れるんだよな。 docker-composeで立ち上げたDockerコンテナのMySQLにログインする
Pythonほぼほぼ初めまして。SQLAlchemyと言うORMあるのか。 SQLAlchemyでテーブル設計とORMの操作
Python学びながらやる。
Chat Completions API (書籍と若干現時点Verだと記述が異なりそう) https://platform.openai.com/docs/guides/text-generation/chat-completions-api
https://platform.openai.com/docs/guides/text-generation
https://platform.openai.com/docs/api-reference/chat/object
テキスト生成モデルは、JSONモードと 再現可能な出力が可能になりました。また、テキスト生成モデルの上にエージェントのような体験を構築できるAssistants APIも発表しました
このアップデート以前は、Chat Completions API の Function Calling機能でJSON形式の文字列を出力していた。
利用可能な関数をLLMに伝えておいて、LLMに「関数を使いたい」と言う判断をさせる機能のこと。
👉 LLMはどんな関数をどう使いたいかを応答をするのみであり、関数の実行などはアプリケーション側で管理する必要がある。
Assistants API における関数呼び出しとの違いは?あんまり言語化できるほど理解してない。
とりあえず全章やって雰囲気がわかったら、replicate 使った画像生成アプリでも作ってみる。 https://replicate.com/docs 参考にするやつ : https://github.com/Pondorasti/emojis