Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Investigate block_log storage compression #22

Open
bitphage opened this issue Apr 5, 2018 · 3 comments
Open

Investigate block_log storage compression #22

bitphage opened this issue Apr 5, 2018 · 3 comments
Labels
enhancement New feature or request

Comments

@bitphage
Copy link
Member

bitphage commented Apr 5, 2018

  • Is it compressed already? If not, why?
  • What do we need to implement compression? Can we do it efficiently?
@bitphage bitphage added this to the Future Improvements milestone Apr 5, 2018
@On1x On1x added the enhancement New feature or request label Apr 5, 2018
@antonblockchain
Copy link

Не упаковано потому, что, можно использовать ситемы упаковки ос (linux)
В том числе файловою систему с упаковкой.
В том числе систему свапа с упаковкой - экономит память до ДВУХ раз. (zswap)

Проблема графена в том, что, графен инкапсулирует базу данных в себя.

Правильная архитектура: использовать внешнюю базу данных для индексов и хранения данных.
Тогда из этой внешней базы смогут читать напрямую сторонние приложения.
Используя ноду только для записи данных.

Это позволит:

  1. распараллелить чтение из блокчейна не только по ядрам (сейчас 1все на 1 ядре)
    но и по разным операционным системам (инстансам в витруальных машин)
  2. Убрать из ядра ноды графена апи чтения данных и построение/хранение индексов.
    2.1) или сделать простой враппер апи, или вообще убрать
    Это сделает ноду легкой по расходам памяти, и по размеру кода.
    Уберет проблемы базы данных на отдельный движок.

@On1x
Copy link
Member

On1x commented May 4, 2018

@bitfag есть проблема с тем, что нода должна отдавать актуальное состояние для постов (репосты, апвоуты, вес апвоутов, расчетное состояние предполагаемой выплаты) - и там же хранится сам контент. В Голосе сейчас идет разделение сущности comment на 2 - те которые можно хранить отдельно и не требуется динамического изменения или перерасчетов:
GolosChain#541

Паковать данные в блоках - хорошая идея, даже в момент их отправки в блок, они уже будут запакованы. Это сплошная экономия. Не надо искусственно перекладывать это на ОС или ФС.

@bitphage
Copy link
Member Author

bitphage commented May 4, 2018

@On1x ты наверное @AntonBliznets отвечал...

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
enhancement New feature or request
Projects
None yet
Development

No branches or pull requests

3 participants