datファイルを共有す� ..
21:デフォルトの名無しさん
08/06/05 20:44:12
ところでメッセンジャー機能って前までログが表示されてた気がするのだけどいつからか表示されなくなった気がする。
ログと言うか正確には最新の投稿みたいな感じで。
これって家だけの不具合？
22:デフォルトの名無しさん
08/06/05 21:08:52
>>20
パーミッションみたいなフラグは
r ・・・ オプションの「稼動状態を公開する」にチェックが入っている
t ・・・ オプションの「スレ閲覧の履歴を公開する」にチェックが入っている
D ・・・ 管理画面の「dat収集」でチェックがひとつでも入っている
だと思う。
一個も補完されないのはDが入ってないからでは？
>>21
うちでは残ってる。（build 0044）
異常終了したときにすっ飛んだとかでは？
23:初音の人
08/06/05 21:53:35
俺本当にバカ…
結果から言うと保管はできました。
URLﾘﾝｸ(www.dotup.org)
前回のノリもあって保管スレに1個もチェック入れないで確認してたわorz
これでGUI利用した場合では正常に保管が確認されました。
ただし専ブラとの連携(V2C20080420)はやはり上手く行かない様です。
Windowsのアプリじゃないからか？と言うことでJaneStyleをWineじゃ×(Jane特有っぽい)
GUI版起動中に別マシンからのアクセスで管理は可能。
しかしながらやはり管理タブ表示をすると落ちます。
別マシンからプロクシ設定をした場合にはスレッド検索としての登録も可能
また、dat取得済みスレッドに関しては閲覧も可能でした。
この時点でLinuxのX入り鯖を運営している場合は十分に運営が可能な状態です。
またDebian etchのCUIのみでもテストしてみましたが
予想はできていましたがやはりこちらは無理でした。
WineがGUIとして表示しようとするために？描画でアウト。
個人的にはコンソールのみでの起動ができるようになれば100点満点です。
しかしながら既存のX利用ユーザとしてはデスクトップ用途マシンならば
問題なく利用が可能な為にかなり利用幅が広がったと思います。
今後もお体に気をつけて開発頑張って下さい。
24:デフォルトの名無しさん
08/06/06 08:25:34
>>16
Winのレンタルサバとかなかったっけ？
まあo2onのためにサバ借りるのは、何か違うと思うがｗ
うちは2chのクローラーも走らせてるから38G越えてしまった。
25:デフォルトの名無しさん
08/06/06 08:26:08
linuxでうごくとなるとi-monaとも組み合わせたくなるな
26:デフォルトの名無しさん
08/06/06 13:22:13
つまり携帯から過去ログを取得できるかもってことか
27:721 改め e ◆CuSO4..R5I
08/06/06 15:39:02
>>6>>11-12
"database is locked" が発生していて、正常に commit されていない
可能性が非常に高いです。
というか、自分の環境でも試してみたら同様の症状が発生してかなり涙目なんですが。
以前 BRANCH_0043 で実験していたときは無問題だったので
そのまま駆け込みチェックインしちまったのですが、
datname のインデックスを作るようにした変更が影響を与えているようで、
それを除去すればおおむね良好です。
ひとまず、細かい原因と改善策をなんとかひねりだしたいです。
28:k-u ◆k.u4xwkrx.
08/06/06 18:31:10
>>12 後半部分
ずれた回答してしまってすいません
手短に言いますと、データベース更新作業はファイルを読み込む動作に比べて
ほとんど時間がかからない前提になっているので、プログレスバーをどうこうするより
まずそのバグと思われる動作を直したいと言うことです
> 初音の人
特に努力と苦労をした覚えはないですが、IMultiLanguage2に変えたのが効いたのでしょうか・・・
>>27
失礼、私が追加したコードですね (´･ω･｀)
そのインデックスは、dat一覧を出すときにdatnameでのソートが速くなるので入れました
insert時にパフォーマンスが落ちることは分かっていたのですが、検証不足だったようです。
とりあえず抜いてもらっても結構です。
が、
根本的に、データベースが使用中ならば待つような仕組みをo2on側で用意してはどうかと思います。
現在は適当に5秒待ちになってますが、DBのロックをちゃんと把握して待つようにした方がいいかなあと
もしくはタイムアウト後にリトライするかですね
いまのままですと、不具合がユーザ環境に激しく依存するので好ましくないでしょう
29:前スレ960
08/06/06 22:43:30
>>28
> ほとんど時間がかからない前提になっているので、プログレスバーをどうこうするより
なるほど、そういう経緯でしたか。
これは「要望」なのですが (開発の優先度は低くても構いません)
フィックス後も 「走査終了→構築終了」 の間に大きな遅延が存在しうる場合
どのような形であれ 【構築中】 【構築完了】 のステータスは欲しいところです。
DBの再構築を目的とするユーザにとっては、構築プロセスの一つである
「走査の進捗状況」のみを知ってもあまり利益はないと思いますので。
30:デフォルトの名無しさん
08/06/06 22:54:31
これって管理画面のdat収集で特定の板だけ設定できないのですか？
チェックをはずしても元に戻ってしまうんですが。
31:デフォルトの名無しさん
08/06/06 23:00:55
確定ボタン
32:デフォルトの名無しさん
08/06/06 23:57:13
>>31
ありがとうございました。
33:デフォルトの名無しさん
08/06/07 00:42:46
アップデートするときに上書きするファイルってo2on.exeだけで良いですか?
34:デフォルトの名無しさん
08/06/07 00:54:18
>>33
良い場合とダメな場合がある。
自分で判断できないなら「全て上書き」にすべき。
35:デフォルトの名無しさん
08/06/07 01:27:00
確か以前.exeとadmin上書きだったような気が
36:デフォルトの名無しさん
08/06/07 05:08:21
sourceforgeのサイトって変わった？
乙です
37:デフォルトの名無しさん
08/06/07 12:40:15
>>28
> そのインデックスは、dat一覧を出すときにdatnameでのソートが速くなるので入れました
> insert時にパフォーマンスが落ちることは分かっていたのですが、検証不足だったようです。
なるほど、思わぬ弊害ということですね。自分の検証不足でもあります。
> 根本的に、データベースが使用中ならば待つような仕組みをo2on側で用意してはどうかと思います。
> 現在は適当に5秒待ちになってますが、DBのロックをちゃんと把握して待つようにした方がいいかなあと
> もしくはタイムアウト後にリトライするかですね
激しく同意です。
いきなり
if (err != SQLITE_OK) goto error;
しないで、
err == SQLITE_BUSY 時に適当に待って何度かリトライする感じですかね。
とりあえず SQLITE_BUSY とリトライについて調べてみます。
それと、あまりにもエラーが続くようだったら、あるいはキューが溜まりすぎたら
dat 走査を一時停止するという仕組みも必要だと思われます。
メモリ使用量的な意味でも。
38:e ◆CuSO4..R5I
08/06/07 12:42:02
>>37は自分です。
39:デフォルトの名無しさん
08/06/07 19:56:07
0043と0044はどっちの方が安定していますか？
ちょっと不安
40:デフォルトの名無しさん
08/06/07 20:08:32
0044bは結構安定してる ような気がする
41:デフォルトの名無しさん
08/06/07 20:17:53
0044b安定中
42:デフォルトの名無しさん
08/06/07 21:14:46
0044にしたら何もしてないのにアプリケーションエラーで落ちることがちょくちょくあったけど
0044bは一度もない。安定している。
43:デフォルトの名無しさん
08/06/07 21:16:33
43で最近ちょくちょくDBを開くのに失敗する
44:デフォルトの名無しさん
08/06/07 21:19:54
44b圧勝
45:おさ ◆OSApxZfJs2
08/06/08 14:02:22
DB再構築をするときに、datテーブルの中ってクリアしないんでしょうか？
（それらしいコードは見つからなかった）
なぜかというと、現在0044bを使用しているのですが、管理画面のdat収集のページを
表示しようとすると、o2onが落ちるようになってしまいました。
ソースを追いかけてみたら…（長くなったので自主規制）…dat.dbに異常なレコードが
含まれており、これが消えない限り解決しないという結論になりました。
SQLite Database Browserなどを使って手動でdat.dbから異常なレコードを消せば
良いのでしょうけど。
DBrebuilder v1.1ではdat.dbを一から作り出すから大丈夫なんでしょうね。
ちなみに、異常なレコードが作られた原因は不明です。
異常なレコードのlastupdateは1212450516(2008/06/03 08:48:36)でしたが、
この時間は何もしてないかスレを見てたか、どちらかなんですけどね。
テーブルに制約とか入れると、また重くなってしまいますよね…。
46:デフォルトの名無しさん
08/06/08 16:59:01
>>45
> なぜかというと、現在0044bを使用しているのですが、管理画面のdat収集のページを
> 表示しようとすると、o2onが落ちるようになってしまいました。
この時は0044bで正常に構築を完了したdat.dbを使ったの？
うちの場合、既存のdat.dbをそのまま流用してるんだけど
dat収集のページを開いても落ちることはないなあ
> DBrebuilder v1.1ではdat.dbを一から作り出すから大丈夫なんでしょうね。
o2onは既存のdat.dbのあった場合、その差分とかを参照しながら構築してるんですか？
47:おさ ◆OSApxZfJs2
08/06/08 21:04:18
>>46
dat.dbは0044bで正常に完了した物を使いました。
>>45 の省略した部分に原因があったので、かいつまんで書くと
o2onのDB再構築は読み込んだファイルからハッシュを生成して、
それをdat.dbに対してinsert or replace into～を使って更新をかけています。
o2onはDB再構築の前に delete from dat や truncate table dat を実行していません。
なので、キーとなるhashが一致しない限り、異常なレコードが生成されたときに消える機会が無くなります。
んで、問題のあったレコードは、datテーブルのhashに何か入っていて、
それ以外が空文字か0、lastupdateとlastpublishは1212450516付近の値。
そしてdat収集タブを開くときに、O2Boards::MakeBBSMenuXML()から呼ばれる
O2DatDB::select_datcount()で"ドメイン:掲示板名"のmapを返してくるのですが、
":"というドメイン名と掲示板名が空のものがかえってきます。そのためMakeBBSMenuXML()のなかの
for (nmit = nummap.begin(); nmit != nummap.end(); nmit++) {
wsplit(nmit->first.c_str(), L":", token);
xml += L"<board>"EOL;
xml_AddElement(xml, L"bbsname", NULL, token[1].c_str()); ← ここ
で存在しない添え字を参照して落ちてしまいます。
48:デフォルトの名無しさん
08/06/09 00:28:53
新バージョンの論議中申し訳ございませんが、少々困ったことがあります。
たとえば、
URLﾘﾝｸ(firefox.geckodev.org)
のように、Wikiには過去スレがまとめられたページがときどきありますよね。
↑のページのように、親切にhtmlなどとして見られるサイトもありますが、あまりありません。
上のようなページから2chスレへのURLを取り出して、それを一括でo2onの「スレッド検索」に
追加したいのです。
他のソフトを使って2chスレッドへのURLだけを取り出してリストにすることはできたのですが、
それを一括でo2onへ登録する方法がわかりません。
SQLをいじってみたらできるのかな、とも思いましたが詳しくなくて全然できません。
何かいい方法がありましたらご教授お願いします。
49:初音の人
08/06/09 02:58:13
以前LinuxのV2Cからスレッド検索に登録ができないと書きましたが
今確認した所きちんと登録が可能でした。
しかしながら不安定？な様で登録ができる場合とできない場合があるように思えます。
こちらに関してはポップアップが表示できないために確認作業が大変ですが、
デスクトップとして使用する分にはほぼWindowsと変わらない環境で使用できそうです。
あと初めてメッセージを頂きましたｗ
送ってくれた方ありがとうございました。
50:初音の人
08/06/09 03:22:36
あ、取得済みのdatに関しても閲覧に関してはV2Cからの読み込みはできないようです。
なのでWindows同様にとはいきませんね。
Javaでのマルチプラットフォームを実現しているV2C(Windowsと同様の動作をしてくれるかなと)が
無理なので、他の専ブラも希望は薄そうです。
こちらも余裕があれば動作の検証をしてみます。
51:デフォルトの名無しさん
08/06/09 08:34:46
bbs2chreaderの開発が終了しました。。。
52:デフォルトの名無しさん
08/06/09 09:47:27
>>48
自分の場合はIEの右クリックメニューに"リンクを2chブラウザで開く"メニューをつけてあるので、リンクを片っ端から2chブラウザに送ってしまえば過去ログになってるものは全て登録されます
53:デフォルトの名無しさん
08/06/09 14:06:40
>>48
バーボン食らわない？
後開くのがとても重いし
54:53
08/06/09 14:07:23
アンカーミス
>>52です
55:デフォルトの名無しさん
08/06/09 18:20:27
バーボンって連投規制とかじゃないっけ？
読み込みは大丈夫だろう。
56:デフォルトの名無しさん
08/06/09 18:22:46
過剰リロードでもバーボンに引っかかる
同一サーバーでスレを読むときは10秒ほど間隔をあける必要がある
57:デフォルトの名無しさん
08/06/09 18:55:59
それは知らなかった。
どれくらい開くとなるんだろうか。
同一板のスレを10個くらい開いてJaneで全てのタブの新着チェックしても問題ないしな。
ちなみに>>2のスレを選択→選択範囲のURLを全て開くも問題無し(14個)
ブラウザからってのが問題？
58:デフォルトの名無しさん
08/06/09 19:04:23
Greasemonkey使ってo2onの検索に直接放り込むスクリプト使ってるけど、
時折o2on側からの返答がなくなって止まったりする。
あと生きてるスレッドも検索登録されることになったりとか。
59:デフォルトの名無しさん
08/06/09 19:05:41
まあ詳しくはこれを
URLﾘﾝｸ(info.2ch.net)
60:デフォルトの名無しさん
08/06/09 20:00:36
>>47
> o2onはDB再構築の前に delete from dat や truncate table dat を実行していません。
> なので、キーとなるhashが一致しない限り、異常なレコードが生成されたときに消える機会が無くなります。
この問題は構築後にanalizeによって解決しないのですか？
61:デフォルトの名無しさん
08/06/09 20:41:42
analyzeってのは統計情報を更新するコマンド。
異常なレコードが登録されてるならば、truncateなりdeleteなりして、レコードを削除しない限り
勝手に消える事は無い。
62:デフォルトの名無しさん
08/06/09 22:15:05
>>61
ありがとう
でreindexってのはなに？analyzeとはまた違うんだよね
いまいちこの違いがわからない…。
どちらもデータベースを整理整頓して読み込みや書き出汁の効率を上げるためと
理解して気が向いたときに実行してるんだけど
63:おさ ◆OSApxZfJs2
08/06/09 22:25:19
>>62
reindexは、インデックスを再作成します。
analyzeは、テーブル内のレコード分布を調べて、検索クエリーが実行されたときの
インデックスの使われ方を決めます。
64:デフォルトの名無しさん
08/06/09 23:41:16
ほんとに0044b安定してるな
65:デフォルトの名無しさん
08/06/09 23:42:15
>>58
どこにある？
66:デフォルトの名無しさん
08/06/10 00:09:42
>>61
>>63
重ねてありがとう
どんな機能なのか分からないまま使っていくのが、なーんとなく気持ち悪かったもんで聞いてみました
67:デフォルトの名無しさん
08/06/10 01:16:21
今さっきログ見たらこんなになってた
今も継続中
URLﾘﾝｸ(www.dotup.org)
68:デフォルトの名無しさん
08/06/10 01:24:54
で、なんか狂ったと思ってo2on終了させたら
Proxyを終了してますで止まった
Ver 0044b
69:デフォルトの名無しさん
08/06/10 06:37:19
>>65
自分で作った。公開してない。
70:デフォルトの名無しさん
08/06/10 11:03:08
むしゃくしゃしてやった。
のかと思ったよ。
71:デフォルトの名無しさん
08/06/10 16:14:02
過去ログ取れねーと喚いてた者ですが
URLの"kako/"を削ったら落ちてきますた。
お騒がせしてすんまそん
72:デフォルトの名無しさん
08/06/11 07:24:30
>>69
ほしいです。。。。。。。。。。
73:デフォルトの名無しさん
08/06/11 11:26:38
>>69
うｐ
74:デフォルトの名無しさん
08/06/11 12:36:21
>>73
ﾄﾞﾋﾟｭｯ
75:69
08/06/11 18:25:40
>>72-73
完全に自分用で不親切仕様だし、バグ他問題あるかも知れないけど出しときます。
URLﾘﾝｸ(o2on.sourceforge.jp)
Fx + Greasemonkeyでしか試してません。それ以外の環境はまず考えてません。OperaとかuserChrome.jsのローダーとか。
操作はすべて猿アイコンのメニューから。
インストール後、リロードか新しいページを開くと「o2on setting...」というメニューがあるので、そこでo2on管理画面のURLを入れて下さい。
再度リロードすると「Add」というメニューがあるので、それをクリックするとページ内のスレッド風のURLを問答無用で検索登録します。
問題点
・完全なdatを持っている場合でも検索登録
・まだスレッドが落ちていない場合でも検索登録
・フレームページに対応してない
・追加するスレッドのURLが多いと登録終了まで時間がかかる
公式のうｐろだ使わせてもらいました。
76:デフォルトの名無しさん
08/06/11 19:16:56
>>75
本当にありがとうございます。
ありがたく使わせていただきます。
77:デフォルトの名無しさん
08/06/11 20:13:05
>>75
( ⌒) ∩_ _ グッジョブ!!
/,. ノ i .,,E）
/ /" / /"
_n グッジョブ!! / / _、_ ,／ ノ'
（ l _、 _ / / ,_ノ` ）／ ／ _、_ グッジョブ!!
＼ ＼ （ <_,` ）（ ／ （ ,_ノ` ） n
ヽ___￣￣ ノ ヽ | ￣ ＼ （ E）
78:デフォルトの名無しさん
08/06/12 01:58:15
kako2chspiderを長時間(40時間くらい?)動かしてると、
途中から取得datの容量が0バイトになっちゃうんですけど…
79:デフォルトの名無しさん
08/06/12 04:42:25
>>78
それだけ動かしてると、どんなもんのdat数を取得できるの？
80:e ◆CuSO4..R5I
08/06/12 12:03:09
DB 再構築周辺のメモ。
O2DatDB::update() が dat の数だけ O2DatDB::select(O2DatRec &out, hashT hash)
を呼び出すのだが、これは無駄極まりなくて、
特に呼び出した分だけ sqlite3_prepare16_v2() するのが激しく無駄。
sqlite3_stmt は一回用意したら使いまわそう。場合によっては SQLITE_BUSY を返すし。
O2DatDB::update() 内で select するコードをべったり書くか、
それか sqlite3_stmt* を受け取って、それを使う関数を作るかだな。
datname のインデックスはとりあえず残す。
81:デフォルトの名無しさん
08/06/12 14:41:16
>>78
連続で取りすぎでバーボンくらってるとか？
こちらは生きてるスレを取得してるけど、１秒１スレにしておかないとバーボンに引っかかってしまう。
82:デフォルトの名無しさん
08/06/12 14:57:32
ｵﾚ使うだけの人なんだけど、Ver 0044bって
dat落ちurlをｸﾘｯｸした時に「検索に追加しました」ってﾊﾞﾙｰﾝ表示しないの？
管理画面・ｽﾚｯﾄﾞ検索を開くと追加されてるからまぁ良いんだけど、o2onｵﾌﾟｼｮﾝの
ﾊﾞﾙｰﾝ通知で「検索登録時」にﾁｪｯｸしててもﾊﾞﾙｰﾝ表示してくれないです。
「P2P起動・停止」、「補完時」はﾊﾞﾙｰﾝ出るです。
「ﾒｯｾｰｼﾞ受信時」は、受信したこと無いから知らんです。
83:78
08/06/12 14:57:56
>>79
取得間隔が長いので、まだ４０００ちょいですわ。
ログ集める板も限られてるし
>>81
１秒でも大丈夫なんですか？
今まで●焼きが怖くて２０秒間隔に設定してました…
84:デフォルトの名無しさん
08/06/12 15:12:51
>>83
間隔を短くするつもりなら、やめとけ
613: 704 [sage] : 2008/03/28(金) 20:37:14
>>612
●はHTTPヘッダで判定できるのでその方がいいかも
ところで、o2on側で●ログインしてdatを持ってきて他ノードに配るって言うのを
自動化した場合規約違反になるんでしょうかね?
あるいはアクセス過多で焼かれることってあるんでしょうか
614: デフォルトの名無しさん [sage] : 2008/03/28(金) 20:55:08
FOXに聞いてみたら？
615: デフォルトの名無しさん [sage] : 2008/03/28(金) 20:57:58
やり過ぎるとバーボン行きにはなりそうだな
30秒感覚くらいなら大丈夫じゃね
616: デフォルトの名無しさん [sage] : 2008/03/28(金) 21:00:00
おれは2秒おきに取りにいってるけど、大丈夫。
間髪入れずにいくと流石にバーボンだな
617: デフォルトの名無しさん [sage] : 2008/03/28(金) 21:04:29
>>613
自動化はアウトじゃね
あと他人に配らなくても過剰にアクセスした段階で焼かれる
大体30秒に一回取得のスクリプトを一日回したら焼かれた
85:デフォルトの名無しさん
08/06/12 15:45:16
>>80
ここのselectってinsertするかupdateするか判定してるだけですよね？
とりあえずupdateしてみて更新件数が0件ならばinsertってロジックにしたらいいだけでは無いでしょうか。
SQLiteでも更新件数って取得出来ますよね？
86:78
08/06/12 17:31:13
>>84
どうもです。
もっと延ばさなきゃ駄目なのか…
87:e ◆CuSO4..R5I
08/06/12 17:47:13
>>85
ですよね。先に INSERT するって方法もありますね。
そこで、よくソースを読んだらひどすぎるバグを発見したよ。
bind(db, stmt_update, 6, it->hash) してないので、結局何も更新されないの。
癒された。
88:デフォルトの名無しさん
08/06/12 18:17:34
<チラシの裏>
なにやら2chの鯖一台が逝ったようですね
万が一というかなんというか、dat飛んでたら今こそ溜め込んだdatたちを生かせそうかも
っと、チラシの裏失礼
2ch サーバーダウン（鯖落ち）情報 part203
ｽﾚﾘﾝｸ(operate板:41番)
</チラシの裏>
89:k-u ◆k.u4xwkrx.
08/06/12 18:21:11
データベース周りはもっといじった方がいいみたいですね。
ネットワーク関係は安定してるんですけどね。
引き続きバグフィックスはBRANCH_0043でよろしいでしょうか
バージョンごとに分けていった方がいいですか?
分けすぎても面倒かなと思いますが
trunkは放置になっていますがバグフィックスをマージして
プラットフォーム依存のコードを減らす作業でもできたらなあと思っています。(妄想)
90:デフォルトの名無しさん
08/06/12 20:08:27
>>85、>>87
selectせずにinsert or replaceだけで充分な希ガス。
update or replaceを使って意味があるのは
UNIQUE項目（datテーブルの場合はhash）をupdateする場合だけでしょ？
“or replace”なんていう非標準SQLを使いたくないって理由なら
プログラム側で分岐するしかないけど。
91:e ◆CuSO4..R5I
08/06/12 20:12:14
>>89
> 引き続きバグフィックスはBRANCH_0043でよろしいでしょうか
> バージョンごとに分けていった方がいいですか?
> 分けすぎても面倒かなと思いますが
BRANCH_0043 のままでいいと思います。
92:デフォルトの名無しさん
08/06/13 01:04:12
隠れていたo2onのブレーンたちがこんなにいたのか。
実は静かにソースを眺めていたのね
o2onはまだまだ進化しそう。。。心強いなあ
93:e ◆CuSO4..R5I
08/06/13 15:20:37
>>90
一からまるごと再構築という観点ではそんな気もするんですが、
現在は既存の DB をベースに最新の状態に更新する形での再構築という仕様で、
UPDATE すべき場合は lastpublish というカラムはそのままにしておきたいという
仕様がある感じなので、INSERT OR REPLACE だけで済ますのは微妙。
あくまでも現状の仕様を維持するのであればの話ですが。
逆に、今が絶好のチャンスなのでその辺の仕様を覆すような案も歓迎。
いろいろな話がちょっと前にも出ているわけですし。
他にも DB 周辺の指摘やアドバイス歓迎。
むしろいい具合に書き直してくれる人歓迎。
94:78
08/06/13 18:08:09
取得間隔を２秒にしてやり直したら、
１０００番代以降の最古スレまで完走したものの、
歯抜けが続出…
間隔延ばしても
一定時間クロールし続けると
弾かれる様だし…
どうすればいいんだ('A`)
95:k-u ◆k.u4xwkrx.
08/06/13 20:55:15
(自分の中での)データベース関係検討事項
詳しい人の突っ込みが欲しいです
･テーブル構造
datテーブル一つの方がパフォーマンス的にはよろしいのでしょうか?
（現状リレーショナルになってません。エクセル表みたいな感じ)
datnameは文字列じゃなくてスレ立てtimeを数値型で持った方が速いのでは→ただし汎用性低下
・再構築プロセス
なんかスレッド生成しまくってるのが気に入らない
I/Oとりあってそう
・update
どこが重いのかちゃんと調べる
ただしいSQLの使い方を調べる
軽量化･簡素化
>>87のような間違いが起こるのもなんか関数が長すぎる希ガス→コード整理
・DBロックエラーの処理
>>28
ロック時間は数百ms程度に抑えた方がいいのではないだろうか 根拠無い数字だけど
96:デフォルトの名無しさん
08/06/13 22:01:23
>>93
o2onを手掛けた原作者の設計構想はともかく
実際にソースを見た人は、1からのDB再構築と
既存のDBを活用しての再構築では
どちらにメリットがあると考えますか？
今のo2onに限って言えば、同じDBが生成されるのなら
どちらの方法であれ、再構築に掛かる時間の短い方が
ユーザ側にはメリットがありますが
将来的な機能の拡張を考慮すると、また別の話になるんでしょうね
>逆に、今が絶好のチャンスなのでその辺の仕様を覆すような案も歓迎。
確かにいいチャンスなんでしょう・・・
# コードが読めない、書けない人間には歯がゆいところです
こんな機能はコードを大きく書き換えることなく追加できたりするものなんでしょうか。
・P2Pを実行しながらDBの再構築ができたりとか
・何某かのフラグを格納するフィールドを後から追加したりとか
>>95 氏の
> ･DBロックエラーの処理
> ･テーブル構造
にも絡んでくる話ですね。
97:デフォルトの名無しさん
08/06/13 22:40:51
Linuxでも完全に動くように期待してるよ♪
dat保有量がエロ動画の量を超えててなんか悲しくなった…
98:デフォルトの名無しさん
08/06/13 23:56:30
>>95
C++は読めないんですが、読めないなりにO2DatDB.cppを眺めてみた感じでは
以下の２文が遅いように思えます。
・where句なしのorder by random()
・select sum(disksize) from dat;
前者はたぶん全件ソートがかかると思われます。
（limitがかかっているとしても、それ以前に全件ソートがかかると思われます。）
というか、そもそもDBMSはランダム処理が得意ではないので
どっちにしろプログラム側で処理すべきです。
後者に関しては、このSQLを発行するならdisksizeにindexがあるべきです。
ただ、そんなに頻繁に使用するSQLではない（管理画面→状態と、
他ノードからのプロフィール参照でしか使わない？）と思うので
あまり気にしなくても良いかもしれません。
それ以外はSQL単品で遅いものはないように見えるので、
呼び出す回数を減らすことを考えたほうが良いと思います。
ちなみに、テーブル構造をいじる必要は感じません。
正規化の観点では若干違反していますが
パフォーマンス上は現状のほうが有利と思います。
99:デフォルトの名無しさん
08/06/14 02:40:55
>>95
ロックを回避するにはトランザクションを短くするしか無い気がします。
現状キューにたまった場合1000件ずつ処理されてるのを設定で可変にするとか。
件数減らせば更新のパフォーマンスは落ちますが、ロックが起きて更新されないよりはマシって事で。
>>98
全件sumるんだからindex関係無くないですか？
where句で何か条件が指定されてるんならわかるんですが。
100:98
08/06/14 11:15:35
>>99
テーブル全体を舐めるかインデックス全体を舐めるだけかの違いで
I/O量が変わります。
とはいえ、テーブル全体でもせいぜい数百MBだと思うので
あまり変わらないかもしれません。
101:デフォルトの名無しさん
08/06/14 15:52:42
いまwikiから最新版をDLしようとしたら404なんだけどどういうこと？
102:デフォルトの名無しさん
08/06/14 19:46:17
URLﾘﾝｸ(sourceforge.jp)
103:k-u ◆k.u4xwkrx.
08/06/14 21:24:05
>>98>>100
・where句なしのorder by random()
は確かほとんど呼ばれない仕様になっていたような
他ノードにdatを拡散する場合に使われます
・select sum(disksize) from dat;
これは遅いという報告があり、こちらでも再現します。
2回目以降はキャッシュするのか速くなるようです。
インデックス入れてテストしてみます。
>>96 違う人が答えますが
正直現状のDB再構築の意図がよく分からないです
手元にdatファイルが無く、スレタイ等のデータは持っている場合に、
そのデータが消えないということはあるんですが、そのような事態が起こる条件、消してしまった場合の弊害等未調査。
(dat.dbファイルごと削除して再構築は何回かやっていますが、目立つ不具合はなかったように思います。)
変なデータが登録されていた場合に、それが削除できないという問題もあります。
lastpublishをそのままにしておきたい意図があるとのことですが、これはクリアしてしまってもいいのではないでしょうか
どちらかというと一時変数的な役割だと思うし、スレタイ(title)のように恒久的なものではないので
> ・P2Pを実行しながらDBの再構築ができたりとか
現状のまま同時実行できるようにすると・・・
DBロックエラーが多数出ると思います
またdatファイルの読み書きが衝突した場合にどうなるかが問題
対応はちょっと大変です。
> ・何某かのフラグを格納するフィールドを後から追加したりとか
データベースにカラムを追加するだけならすぐできます
104:デフォルトの名無しさん
08/06/14 21:26:08
>>102
ｻﾝｸｽ
105:k-u ◆k.u4xwkrx.
08/06/14 21:36:12
連絡
boostとsqliteがバージョンアップしているので移行予定
boostはなんかビルド時のコマンドラインオプションが変わったのでそのうちドキュメント更新します。
>>101
古いwikiには誘導を入れておいた方がいいでしょうか・・・
新旧wikiでいろいろ食い違ってきたのでsourceforgeに一本化したいとおもっております
106:96
08/06/15 01:07:28
>>103
忙しい中、素人相手にレスいただいて感謝です
抱いていたモヤモヤも払拭されました。
この様な開発メンバーが居ると思うと、なんか嬉しいです。
o2on使い続けて来てよかった
>>105
> 新旧wikiでいろいろ食い違ってきたのでsourceforgeに一本化したいとおもっております
wiki なら多少いじれるので、微力ながらお手伝いさせていただきます。
ただ、うぷろだをSourceforge内に新設して欲しいのですが、規約上これは可能でしょうか？
wiki のうぷろだでは使い勝手が悪いので。。。
暫くは旧サイトのうぷろだにリンクを張ってもよいと思うのですが
なにしろ原作者様が用意したサーバをこのまま使い続けるのも気が引けます。
107:デフォルトの名無しさん
08/06/15 14:16:55
あぷろだ設置お疲れ様です
当方ADSL8Mですが、早速テストうぷしてみました。
今までのあぷろだに上げられたブツとSnUploaderのログです。
このログは何かのためにと、私的にSnUploaderを使ってミラーしていたものです。
うぷテストなので不要であれば削除しますのでその旨レス下さい。
あと、せっかく100MBまでうぷできるように設定していただいたのですが
28MB のファイルをうぷしようとしたら、タイムアウトになってしまいました。
こちらの環境なのか、Apache側のタイムアウト/ファイルサイズ設定が
原因なのか判然としませんが、一応報告まで。
108:デフォルトの名無しさん
08/06/15 14:24:52
o2onってこの板以外のｽﾚはもうないの？
109:デフォルトの名無しさん
08/06/15 14:34:07
>>108
今はこのム板だけのようです
110:デフォルトの名無しさん
08/06/15 14:41:31
この板以外ってダウソにしか立ったことないと思うけど、そっちはもうない。
あ、ν速にも立ったことあったか。
111:デフォルトの名無しさん
08/06/15 14:51:35
いや、もともとここだけだったけど厨房が勝手にダウソに立てた
112:デフォルトの名無しさん
08/06/15 14:58:26
P2Pだからﾀﾞｳｿかと思ったんだろうね
113:e ◆CuSO4..R5I
08/06/15 16:31:48
DB 再構築の話なんですけど、今までの話を総合した自分の案です。
・全部空にして一から再構築
→ゴミデータ除去できる
・dat フォルダの走査と再構築を同期して行う（たぶん build 0031 のような感じ）
→インジケータとか、ユーザにわかりやすい
→ひたすら INSERT OR REPLACE する関数をでっち上げる
・再構築中は他の処理による DB アクセス（特に書き込み）を避けたい
→少なくとも、従来の更新用スレッドは止めるとか
という感じで、既存の SQL 関係の関数についてはエラー処理や効率アップに
励むのがいいのかなぁと思います。
114:デフォルトの名無しさん
08/06/15 22:53:43
>109-112
そっかー、ここだけなんだ。
使うだけのｵﾚには敷居が高いな。
115:デフォルトの名無しさん
08/06/15 23:01:18
常時開いたままだからどこの板にあるとかどうでもいいな
俺もバージョンアップの確認の為だけにスレ見てるだけだが
116:デフォルトの名無しさん
08/06/17 17:05:20
ほんとに最近安定してるね
0044bにしたおかげでdatも10万いったよ
117:デフォルトの名無しさん
08/06/17 17:25:18
奇遇だな、ちょうど俺も10万突破したとこｗ
118:デフォルトの名無しさん
08/06/17 19:32:09
最近入れ始めて、昨日までは普通に動いてたんだがアイコンのOと2のとこが赤くてP2P停止状態になって困ってるんですが
なにが原因かわかります？
あとウイルスと判断されるdatがよくDLされるようにまりました
119:デフォルトの名無しさん
08/06/17 19:49:21
>>118
ディスクいっぱいorクォータ指定量に達してないか？
ウィルスはそう判断されるコードを書き込む奴がいたから
無害なのでログフォルダを検索対象からはずすよろし
120:デフォルトの名無しさん
08/06/17 19:54:18
>>119
達していました…
ありがとうございます。
これdat保存フォルダを別のドライブに移すってことはできませんかね？
今のドライブではこれ以上クォータ容量を増やせないので
121:デフォルトの名無しさん
08/06/17 22:26:34
o2onのフォルダごと別のドライブにうつしちゃえば
122:デフォルトの名無しさん
08/06/17 22:49:21
俺もドライブ移動しよう移動しようで結局してないや。
こまいファイルで20G移すのとかどんだけ時間が掛かるんだろう。
123:デフォルトの名無しさん
08/06/18 02:58:39
移動のこととかアンインストールのこととかマニュアルにあると親切だよね
まだαなんで親切さをアピールしてもしょうがないんだけど
124:デフォルトの名無しさん
08/06/18 12:23:31
FFC使えばいいんじゃないか？
125:デフォルトの名無しさん
08/06/18 12:28:56
全部消して新規でやるのがいいと思うけど
126:デフォルトの名無しさん
08/06/18 14:46:36
>>125
なんでよ。
127:デフォルトの名無しさん
08/06/18 15:15:26
>>120
1) o2onを停止する
2) datフォルダを好きな場所に移動する
3) conf\Profile.xmlをテキストエディタで開いて
CacheRootの「.\dat」の部分を書き換える
（例えばD:\o2on\datに移動したなら「D:\o2on\dat」に書き換える）
4) o2onを起動する
でいけるはず。
128:デフォルトの名無しさん
08/06/18 18:48:20
>>127
ありがとうございます
無事移動できました
話がかわるんですが、クォータ設定してる人はどれ位に設定してますか？
参考にしたいので教えてください
129:デフォルトの名無しさん
08/06/18 19:29:07
今見ているスレッド内にある前スレや関連スレッドなどの
2chのURLを全てo2onに検索登録するスクリプトが欲しいです。
Janeの外部コマンドに登録して、右クリックから使いたいんです。
スレ内の２ちゃんねるのURLを全てo2onに検索登録=WScript "$BASEPATHo2onAdd.vbs" "LOCALDAT"
こういった感じです。vbsでもjsでもおｋです。お願いします。
Query.xml に追加で書き込むようにすればいいんですよね。
このハッシュ値はなにから計算されたものなのですか？
Wiki見てきます。すいません。
130:デフォルトの名無しさん
08/06/18 19:32:11
>>129
アプリケーション総合スレッド（,,・_・）ver_1.21
ｽﾚﾘﾝｸ(download板:322番),323
131:デフォルトの名無しさん
08/06/18 19:32:57
スレ内の２ちゃんねるのURLを全てo2onに検索登録=WScript "$BASEPATHo2onAdd.vbs" "$LOCALDAT"
だな。失礼致しました。
132:k-u ◆k.u4xwkrx.
08/06/18 20:09:58
>>107
POSTの上限は10MBの予感。直しておきました
>>113
0031から0032に変わる辺りは参考になりますね。
元々ロックエラーが頻発した為、DB更新のスレッドを別にしたようです。
私は再構築時には UPDATE_THREAD_INTERVAL_S を短くして
かつキューにたまりすぎないように適当に制限するというのを考えていました。
(コードあんまりいじらなくてすみそうだからｗ)
とりあえず実装してみて、テスト版公開して試してもらえばいいと思います。
私の方はテスト版出せるか分かりませんので、適当に進めてくださいな
>>129
ハッシュの算出方法はperlの例が過去ログのどこかにあったような
Query.xmlに追加する方法では、o2on起動中には効果がないはずなので
不便だと思います。
管理画面のスレッド検索と同様にPOSTすれば登録できると思います。
ハッシュの計算も不要です。
POST先 /xml/query
クエリ
act=add
hash="" (空文字列)
note=[任意] (UTF-8かな Jane とか入れとけばいいかと)
url=[スレのURL]
1件ずつしか処理できないので1回ずつPOSTしてください。
あまり高速に連続してPOSTするとo2onがなにかおかしくなるかもしれないので注意してください。
133:129
08/06/18 20:53:10
>>132
親切にありがとうございました。
頑張ってみます。
134:デフォルトの名無しさん
08/06/19 13:16:30
自分が共有してるﾛｸﾞのどれがﾘｸｴｽﾄ多いか表示されないの？
135:デフォルトの名無しさん
08/06/19 23:02:18
現時点でのdat数を述べなさい。
136:デフォルトの名無しさん
08/06/19 23:03:41
319,760
137:デフォルトの名無しさん
08/06/19 23:11:44
収集してないから2,705
138:デフォルトの名無しさん
08/06/19 23:44:30
datフォルダのプロパティで見たら202,726だた
139:デフォルトの名無しさん
08/06/19 23:45:10
251,566
140:デフォルトの名無しさん
08/06/19 23:51:35
312107
141:デフォルトの名無しさん
08/06/19 23:54:24
>>136
ｻｲｷｮ
142:デフォルトの名無しさん
08/06/20 00:16:44
いや上には上が居る、確かdat容量100G突破した人いなかったっけ？
その人はきっと100万所じゃないはず
143:デフォルトの名無しさん
08/06/20 01:56:51
>>134
DBにカラム追加して要求回数とか書き込めば簡単にできるとは思うけど
益々ロックされる可能性が増える訳で・・・
144:デフォルトの名無しさん
08/06/20 07:45:50
てかメッセンジャーとかフレンドってどういう目的で実装されてんの？
145:デフォルトの名無しさん
08/06/20 08:15:19
メッセンジャーでログ補完の依頼が来てたよ
名無しの知らん奴から
146:デフォルトの名無しさん
08/06/20 11:38:35
>>145
それ誤爆じゃね？
前●持ちで自動補完をメッセンジャーで受けてる人いたから
147:デフォルトの名無しさん
08/06/20 11:50:52
つーかそういう目的で実装されてるってことで>>144の疑問は解決したと考えていいんじゃないか
148:デフォルトの名無しさん
08/06/20 12:49:47
どなたかおともだちになっていただけませんか？
149:デフォルトの名無しさん
08/06/20 13:27:12
>>148
一緒に保有しようか
150:デフォルトの名無しさん
08/06/21 12:46:31
>>148
いやいや、俺といっしょに。
151:デフォルトの名無しさん
08/06/22 00:47:12
firefox 3 にしたら管理画面の動作速すぎワロタｗｗｗ
152:デフォルトの名無しさん
08/06/22 14:24:21
スレッド検索登録数 10101
総dat数 315,226
153:デフォルトの名無しさん
08/06/22 16:49:53
これって人から貰った過去ﾛｸﾞはjaneのﾛｸﾞﾌｫﾙﾀﾞに入らないで
o2onのﾛｸﾞﾌｫﾙﾀﾞだけに入るんだよね？(ﾌﾟﾛｸｼ切ると貰った過去ﾛｸﾞが開けない処から)
ﾛｸﾞの重複って無駄が無いのはいいんだろうけど。
1つしか知らんけど過去ﾛｸﾞ検索でindex作る奴には不便ね。
2ちゃんねるスレッド全文検索・・・ThreadSearch
ｽﾚﾘﾝｸ(software板)
154:デフォルトの名無しさん
08/06/22 16:54:18
URLﾘﾝｸ(frozenlib.net)
URLﾘﾝｸ(www.geocities.jp)
>>153
どっちがいいの？
155:デフォルトの名無しさん
08/06/22 17:00:52
よく分からんがo2onのdatフォルダを指定したらダメなのか？
156:デフォルトの名無しさん
08/06/22 17:58:24
>>153
専ブラのログフォルダとo2onのフォルダを同じドライブに置いて、
datにハードリンクをかければｲｲｼﾞｬﾏｲｶ
157:おさ ◆OSApxZfJs2
08/06/22 19:54:18
Googleデスクトップ用のdatファイルインデックス作成プラグイン作ってみたよ。
URLﾘﾝｸ(www.osa-p.net)
158:デフォルトの名無しさん
08/06/22 20:05:53
>>157
／＼／＼人ﾊ _,.,.,.,.,.,.. __
＼調 そ い ゝ ｨ㌫㌫Kkﾐ 〈 ヽ
／ 〉"i'ﾟL´ﾟ｀ ﾙﾘ ｜ |
＼子 の い〈 |にﾌ 〈 _j ｜
／ ゝ ｀ｰr ＞ '´ | ヽ＿
＼だ そ゛ 〉 ,ﾉ 丿 , ―‐ ＼
／ ｣ ／ ／ | 〈 〉
＼ }/ 人 >ー―〈
／｀Y＾Y＾Ｙ＾Ｙ〈ﾟ__ノ ＼ﾟ＿__／ | 〈＿＿＿＿〉
| 〈 〉＿＿＿〈
| 人〈＿＿＿__ﾉ
（ｉl⌒ヽ ； { ￣￣￣
〈￣￣￣}〕 ／ ヽ
〈￣￣￣}＼ ',
〈￣￣￣}爻爻 ｀ヽ
. ｀r―'}爻ﾐ､ﾉ ＼
/｀ｰr‐'´ } ＼
. / ヽ_{＿,ノ ＼
/ /⌒ヽ
159:デフォルトの名無しさん
08/06/23 07:05:06
>>152
スレッド検索登録って3000までじゃなかったっけ
160:デフォルトの名無しさん
08/06/23 08:04:22
>>159
今、自分のを確認したけど、6071 だったよ。
161:デフォルトの名無しさん
08/06/23 08:12:54
どんだけ巡回したらそんな数になるんだよｗ
俺64だぞｗ
162:デフォルトの名無しさん
08/06/23 08:18:03
>>161
y2o2onADD.pl っていうのを使わせてもらっています
163:デフォルトの名無しさん
08/06/23 08:20:18
この板のスレッドを検索登録にしたい場合は
/test/read.cgi/tech/ 2ch.net
で検索すると一気に登録できます。
164:デフォルトの名無しさん
08/06/23 08:20:23
>>160
記憶違いだったかも。すまん。
165:152
08/06/23 10:41:55
スレッド検索登録数 11961
総dat数 316,549
166:152
08/06/24 00:38:50
スレッド検索登録数 17496
総dat数 317,381
167:デフォルトの名無しさん
08/06/24 02:13:13
>>155
別の人だけど、スレッド全文検索に o2on のフォルダ指定してみたら、検索可能だった
でもこれ、大文字・小文字区別しないとか、
and検索、or 検索ができなかったり不満点がいくつかある。
168:デフォルトの名無しさん
08/06/24 02:26:35
>>167
URLﾘﾝｸ(frozenlib.net)
こっちならand検索できるみたいよ。
169:152
08/06/24 08:33:49
スレッド検索登録数 21732
総dat数 317,742
スレッド検索登録数が20000超えた辺りから追記するのが遅くなった。
書き込んでいるときにガリガリ音がする。
これ以上、僕のPCのスペックでは無理みたいです。
一日1000スレくらいは取得できてるな。
170:デフォルトの名無しさん
08/06/24 15:54:47
スレッド検索登録数って管理画面のスレッド検索タブの左上ら辺にある数字のことだよね？
dat収集で全板にしてるんだけどやっぱそっちも入れた方が効率は良いの？
スレッド検索登録数 67
総dat数 201,257
171:k-u ◆k.u4xwkrx.
08/06/24 18:56:40
ちょいと調べてselect_datcount, select_totaldisksize, analyze は
begin; end; で挟んでやるとすごく速くなりました。謎仕様です。
>>169
検索登録の方はDBとか使ってないですからね
定期的にXMLファイルに書き出してますし
そういう使い方は想定されていないものと思ってください
172:152
08/06/25 05:40:31
>>170
どうかな。多少は収集する効率が上がると思うんだけどな。
読まないdat取得しても意味ないんだけどな。
このまま放置することにします。
o2onを通常に起動しているときはCPUをあまり使わないのですが、
これだけ登録数があると、やはり管理画面を開くときに相当CPUを使います。
普段 約2%
管理画面を開くとき 約60%
Intel Core2Duo E7200(2.53GHz L2 3MB)
メモリ 2GB
スレッド検索登録数 21924
総dat数 318,773
>>171
作者さん、調子に乗ってすいませんでした。
これからも開発よろしくお願いします。
それでは失礼致します。
173:k-u ◆k.u4xwkrx.
08/06/25 20:54:56
なんとなくアップ ご利用は自己責任で
URLﾘﾝｸ(o2on.sourceforge.jp)
0044でもロックエラーが出る人に試していただきたくおもいます
174:デフォルトの名無しさん
08/06/25 21:51:53
>>173
( ⌒) ∩_ _ グッジョブ!!
/,. ノ i .,,E）
/ /" / /"
_n グッジョブ!! / / _、_ ,／ ノ'
（ l _、 _ / / ,_ノ` ）／ ／ _、_ グッジョブ!!
＼ ＼ （ <_,` ）（ ／ （ ,_ノ` ） n
ヽ___￣￣ ノ ヽ | ￣ ＼ （ E）
175:デフォルトの名無しさん
08/06/26 16:16:50
>>173
差し替えて、dat.dbを削除してから
再構築をしてみましたが
2008/06/26 16:16:31 SQLite error - - database is locked
略
2008/06/26 16:07:37 SQLite error - - database is locked
2008/06/26 15:35:16 P2PServer info - - 停止 (port:xxxxx)
ロックしてます。
176:e ◆CuSO4..R5I
08/06/26 16:48:58
>>173
乙です。
余裕ぶっこいてたら先を越されたぜ。
俺版も明日あたりに出したいです。
PRAGMA synchronous = OFF; よさげ
177:デフォルトの名無しさん
08/06/27 01:21:45
4月あたま以来ひさびさにこのスレに来た俺に、当時から何が変わったのか200文字以内で説明してくれないか？
178:デフォルトの名無しさん
08/06/27 02:05:06
>>177
44b安定しすぎ。サイキョ
次ページ最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
5376日前に更新/210 KB
担当:undef