take the points back too when an upsert fails
بررسیِ collectionها بعد از ingestِ پایه نهم نشان داد Qdrant ۲۸۷ نقطه دارد ولی دیتابیس ۲۷۹ ردیف. هشت نقطهی اضافه، همه از صفحهی ۱۲۵ — همان صفحهای که دو بار تایماوت داد و بار سوم گرفت. سه مسئله سه نسخه داشتند و دو نقطه هم بیصاحب بود. علت: `upsert` با `wait=True` ممکن است نوشته باشد و فقط جوابش تایماوت شده باشد. مسیرِ جبران فقط ردیفهای DB را پس میگرفت، نه نقطهها؛ و چون هر اجرای دوباره `qdrant_point_id` تازه میسازد، هر retry یک نسخهی تکراری اضافه میکرد. اثرش در بازیابی دیده میشود نه در لاگ: top-k با سه نسخه از یک مسئله پر میشود و بقیهی متنِ مرتبط بیرون میماند — یعنی دستیار بافتِ کمتری میبیند و هیچکس هم متوجه نمیشود. حالا در صورتِ شکست، نقطهها هم پاک میشوند. اگر خودِ پاکسازی هم شکست بخورد لاگ میشود ولی خطای اصلی پوشانده نمیشود، چون صفحه باید ناتمام بماند تا اجرای بعدی دوباره سراغش برود. دادهی موجود هم تمیز شد: ۸ نقطهی بیصاحب پاک شدند و حالا ۲۷۹ = ۲۷۹. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
51
rag/tests.py
51
rag/tests.py
@@ -860,3 +860,54 @@ class ReviewFixRegressionTests(TestCase):
|
||||
# هیچ ردیفی نباید بماند، وگرنه _done_pages آن صفحه را انجامشده میبیند
|
||||
# و chunkها برای همیشه در DB میمانند بدونِ اینکه به Qdrant برسند.
|
||||
self.assertEqual(LessonChunk.objects.filter(source_page=42).count(), 0)
|
||||
|
||||
|
||||
class IngestUpsertRollbackTests(TestCase):
|
||||
"""
|
||||
وقتی نوشتن در Qdrant شکست میخورد، هیچ ردِ نیمهکارهای نباید بماند.
|
||||
|
||||
چرا این تست هست: upsert با wait=True ممکن است واقعاً نوشته باشد و فقط
|
||||
جوابش تایماوت شده باشد. تا امروز در آن حالت فقط ردیفهای DB پس گرفته
|
||||
میشدند و نقطهها در Qdrant میماندند؛ و چون هر اجرای دوباره شناسهی تازه
|
||||
میسازد، هر retry یک نسخهی تکراری اضافه میکرد. روی صفحهی ۱۲۵ کتابِ
|
||||
ریاضی نهم همین اتفاق افتاد: سه نسخه از یک مسئله و دو نقطهی بیصاحب.
|
||||
"""
|
||||
|
||||
@override_settings(**RAG_ON)
|
||||
def test_failed_upsert_removes_both_the_rows_and_the_points(self):
|
||||
from .services.ingest import _persist_and_upsert
|
||||
|
||||
with patch('rag.services.ingest.ensure_collection'), \
|
||||
patch('rag.services.ingest.embed_text', return_value=[0.0] * 8), \
|
||||
patch('rag.services.ingest.upsert_points', side_effect=TimeoutError('boom')), \
|
||||
patch('rag.services.ingest.delete_points') as delete_mock:
|
||||
with self.assertRaises(TimeoutError):
|
||||
_persist_and_upsert(
|
||||
[{'order': 1, 'original_text': 'x', 'summary': 'خلاصه', 'source_page': 125}],
|
||||
lesson_id=1, grade_id=1, subject='ریاضی', lesson_number=1,
|
||||
chapter=7, title='عبارتهای گویا', collection='ریاضی نهم',
|
||||
)
|
||||
|
||||
self.assertEqual(LessonChunk.objects.filter(collection='ریاضی نهم').count(), 0)
|
||||
delete_mock.assert_called_once()
|
||||
collection, point_ids = delete_mock.call_args[0]
|
||||
self.assertEqual(collection, 'ریاضی نهم')
|
||||
self.assertEqual(len(point_ids), 1, 'شناسهی همان نقطه باید برای پاک شدن برود.')
|
||||
|
||||
@override_settings(**RAG_ON)
|
||||
def test_a_failure_while_cleaning_up_does_not_hide_the_original_error(self):
|
||||
"""پاکسازیِ ناموفق نباید خطای اصلی را بپوشاند؛ صفحه باید ناتمام بماند."""
|
||||
from .services.ingest import _persist_and_upsert
|
||||
|
||||
with patch('rag.services.ingest.ensure_collection'), \
|
||||
patch('rag.services.ingest.embed_text', return_value=[0.0] * 8), \
|
||||
patch('rag.services.ingest.upsert_points', side_effect=TimeoutError('boom')), \
|
||||
patch('rag.services.ingest.delete_points', side_effect=RuntimeError('qdrant down')):
|
||||
with self.assertRaises(TimeoutError):
|
||||
_persist_and_upsert(
|
||||
[{'order': 1, 'original_text': 'x', 'summary': 'خلاصه', 'source_page': 9}],
|
||||
lesson_id=1, grade_id=1, subject='ریاضی', lesson_number=1,
|
||||
chapter=1, title='مجموعهها', collection='ریاضی نهم',
|
||||
)
|
||||
|
||||
self.assertEqual(LessonChunk.objects.filter(collection='ریاضی نهم').count(), 0)
|
||||
|
||||
Reference in New Issue
Block a user