Datasets:
command_text_dataset
日本語の自然発話と、その場で口頭により行われる修正指示を1レコードに含む合成データセットである。
音声入力された文書本文（body）と、直前までの入力内容を編集する指示（command）を、
同じ発話の連続として区別できるようにすることを目的とする。
生成用のコードと仕様は https://github.com/voicist/command_text_dataset にある。
このデータセットはそのリポジトリの run conditions-persona-n10000-seed42 の成果物である。
タグの定義
出力は <body> と <command> の2種類のタグだけで区切られている。
<body>— 文書へ入力される本文。フィラー、言い淀み、言い直しなどの自発発話現象はここにだけ現れる。<command>— すでに入力された内容を編集する口頭指示。bodyで隔てられた最大の command 区間を1エピソードと数える。
隣接する同種タグは出力されず、同じ役割が続く範囲はひとつの区間へまとめられている。
最後の区間は必ず body である（条件が command のみを許す場合を除く）。
命令形や編集用語が本文の引用・説明として現れる場合は command とせず、条件側の constraints でその旨を明示している。
収録内容
| パス | 内容 |
|---|---|
data/train-*.parquet |
本体。生成テキストに条件YAML全文と条件の属性列を結合したもの |
raw/generated-dataset.csv |
生成ランナーが出力したCSVそのもの（id,text,text_with_markers） |
raw/conditions-persona-n10000-seed42-conditions.tar.gz |
各レコードの条件YAML（10000件）をそのまま固めたもの |
prompts/04_function_examples_v3.txt |
生成時に全リクエストへ共通で渡したベースプロンプト |
meta/run-config.json |
モデル、生成パラメータ、検品方式、各sha256 |
meta/manifest.csv ほか |
条件の層・周辺分布・pairwise分布のレポート |
meta/catalogs/*.yaml |
条件生成に使ったシーン・話者スタイル・自発発話機能のカタログ |
docs/condition_format.md |
条件YAMLの項目仕様 |
列
| 列 | 内容 |
|---|---|
id |
条件ID。全ファイルで共通のキー |
text |
タグを除去した発話本文 |
text_with_markers |
<body> / <command> タグ付きの本文 |
condition_yaml |
このレコードの生成に使った条件YAMLの全文 |
stratum、scene_id、speaker_style_id、length_bucket、special_case、role、relationship、target_duration_seconds、target_characters、command_episode_count、body_event_min、body_event_max、command_event_min、command_event_max、body_density_profile、command_density_profile、body_functions、command_functions |
条件の層と主要属性（meta/manifest.csv と同じ値） |
condition_sha256, prompt_sha256 |
条件YAMLと、実際に送信したプロンプト全文のhash |
model, attempt |
受理された応答を返したモデルと、その試行回数 |
source |
api（自動検品で受理）または manual_review（目視で受理） |
body_functions と command_functions は文字列のリストである。改行は生成時に除去されているため、
text と text_with_markers に改行文字は含まれない。
source が manual_review の27件は、受理ジャーナルにAPIメタデータと試行番号を引き継いで
いないため、model と attempt が null である。
生成手順
meta/catalogs/*.yamlとmeta/resolved_generator_config.yamlから、層化と周辺分布を保った条件YAMLを10000件生成する。prompts/04_function_examples_v3.txtの末尾へ条件YAMLと長さ契約を連結し、1条件につき1リクエストを送る。- 応答をタグ構文・command区間数・末尾bodyで検品する。文字数は努力目標であり合否には使わない。
- 不合格なら、プロンプトとパラメータを変えずに同じリクエストを再送する（1条件あたり最大10回）。
生成モデルと設定は次のとおりである。
| 項目 | 値 |
|---|---|
| モデル | deepseek-v4-flash |
| temperature | 0.0 |
| max_tokens | 3000 |
| thinking | 無効 |
| 検品方式 | ui-format-parity-v1+no-length-check-v1-after-crlf-removal |
うち27件（source が manual_review のレコード）は、自動再試行の上限まで到達したあとに、
出力を目視で確認して受理したものである。
留意点
- 全レコードがLLMによる合成データであり、実在の人物・組織・出来事を記述したものではない。
- 条件は文体・話者属性・場面の分布を設計して作っているが、実際の音声入力ログの分布を再現したものではない。
- テキストは書き起こしを模した表記であり、実音声は含まない。
- Downloads last month
- 19