Samenvoegen data slimme meter (DSMR) in Home Assistant na upgrade naar 2023.11

Voor discussies en hulp met je smarthome en automatisering kan je hier terecht. DE plaats voor alles over home assistant, Philips hue, Zigbee, Sonoff, ...
Borromini
Pro Member
Pro Member
Berichten: 240
Lid geworden op: 13 feb 2018, 07:36
Uitgedeelde bedankjes: 278 keer
Bedankt: 26 keer

Bericht

HomeAssistant heeft een grote upgrade vrijgegeven - 2023.11 en na wat geklooi en het verdwijnen van het gasverbruik blijkt nu ook dat de meterwaarden van Engels naar Nederlands veranderd zijn. Concreet wil dat zeggen dat een jaar aan data niet meer getoond worden, want HA weet natuurlijk niet dat die nieuwe en oude meterwaarden dezelfde zijn.

Het gaat om deze oude en nieuwe entries:

Afbeelding

Weet iemand hoe je de oude waarden met de nieuwe kan samenvoegen in Sqlite?
EDPnet Fiber XS 150/50 .:. Hardware: (OpenWrt 24.10 HEAD): MikroTik RB5009UG+S+IN ◌ ZyXEL GS1900-10HP PoE+ ◌ TP-Link EAP615-Wall (802.11ax) ◌ Netgear WAX202 (802.11ax) ◌ Netgear GS108T v3
blatruwe
Plus Member
Plus Member
Berichten: 206
Lid geworden op: 12 nov 2018, 16:24
Uitgedeelde bedankjes: 28 keer
Bedankt: 34 keer

Bericht

In de tabel states staat normaal de metadata_id als laatste kolom, je zou daar die metadata_id kunnen aanpassen van bvb 36 naar 71(enz...) voor alle entries. Let wel, ik heb geen idee welke side effects je mogelijks introduceert.

Werkt je energy dashboard nog wel, aangezien hij deze states gebruikt om de statistics te berekenen?
dupondje
Premium Member
Premium Member
Berichten: 634
Lid geworden op: 14 sep 2006, 21:55
Uitgedeelde bedankjes: 1 keer
Bedankt: 41 keer

Bericht

@Borromini
Kan je hiervoor ook een bug report aanmaken?
Ik probeer de DSMR integratie wat te verbeteren in HA, dus feedback als deze is nuttig om te weten.
Ping me gerust in de bug report!
Borromini
Pro Member
Pro Member
Berichten: 240
Lid geworden op: 13 feb 2018, 07:36
Uitgedeelde bedankjes: 278 keer
Bedankt: 26 keer

Bericht

Zal ik doen, bedankt!
blatruwe schreef: 05 nov 2023, 14:43 In de tabel states staat normaal de metadata_id als laatste kolom, je zou daar die metadata_id kunnen aanpassen van bvb 36 naar 71(enz...) voor alle entries. Let wel, ik heb geen idee welke side effects je mogelijks introduceert.
Het is een poging waard, ik vroeg me idd af of dat dan neveneffecten zou hebben. Met een backup moet het wel te overzien zijn.
Werkt je energy dashboard nog wel, aangezien hij deze states gebruikt om de statistics te berekenen?
Nee, dat heb ik volledig opnieuw moeten instellen.

Edit: net de metadata_id in de 'states' tabel vervangen, maar lijkt niks uit te maken, geschiedenis voor de vorige maanden is nog steeds leeg.
EDPnet Fiber XS 150/50 .:. Hardware: (OpenWrt 24.10 HEAD): MikroTik RB5009UG+S+IN ◌ ZyXEL GS1900-10HP PoE+ ◌ TP-Link EAP615-Wall (802.11ax) ◌ Netgear WAX202 (802.11ax) ◌ Netgear GS108T v3
Gebruikersavatar
monty_burns_007
Member
Member
Berichten: 54
Lid geworden op: 07 maa 2010, 18:09
Uitgedeelde bedankjes: 1 keer
Bedankt: 2 keer

Bericht

ideaal moment dus om alles volledig over te schakelen naar de beter ondersteunde en stabielere DSMR Reader Home Assistant Addon die via MQTT de waardes publisht.
blatruwe
Plus Member
Plus Member
Berichten: 206
Lid geworden op: 12 nov 2018, 16:24
Uitgedeelde bedankjes: 28 keer
Bedankt: 34 keer

Bericht

Borromini schreef: 05 nov 2023, 20:07
Edit: net de metadata_id in de 'states' tabel vervangen, maar lijkt niks uit te maken, geschiedenis voor de vorige maanden is nog steeds leeg.
Mogelijks moet je dezelfde oefening nog eens maken met je statistics tabel, aangezien je die ook hebt moeten herinitialiseren
ahrand
Pro Member
Pro Member
Berichten: 328
Lid geworden op: 10 sep 2011, 06:31
Locatie: Kempen
Uitgedeelde bedankjes: 49 keer
Bedankt: 25 keer

Bericht

monty_burns_007 schreef: 07 nov 2023, 15:26 ideaal moment dus om alles volledig over te schakelen naar de beter ondersteunde en stabielere DSMR Reader Home Assistant Addon die via MQTT de waardes publisht.
Hoe kan je dat eigenlijk weten/inschatten welke integraties beter ondersteund/stabieler zijn ?

Ik heb bv een Growatt inverter op m'n zonnepanelen,
blijkt nu dat de standaard integratie https://www.home-assistant.io/integrati ... tt_server/ al een half jaar niet meer werkt, de know issues worden automatisch terug gesloten https://github.com/home-assistant/core/ ... _server%22 maar die integratie staat wel nog altijd in de integratie lijst als dé enige en echte methode om te integreren met Growatt ....
Gebruikersavatar
devilkin
Administrator
Administrator
Berichten: 6693
Lid geworden op: 17 mei 2006, 18:10
Uitgedeelde bedankjes: 795 keer
Bedankt: 526 keer
Recent bedankt: 13 keer

Bericht

Niet.

Home assistant bolt grotendeels op vrijwilligers...

Maar voor jouw probleem staat letterlijk in de eerste gesloten issue een link naar een discussie en uitleg dat ze eraan werken.
Telenet All-Internet -- using CV8560E & OPNsense on PCEngines APU2E4
Proximus & Mobile Vikings -- Using OnePlus 8 Pro (ROM: Stock)
Gebruikersavatar
monty_burns_007
Member
Member
Berichten: 54
Lid geworden op: 07 maa 2010, 18:09
Uitgedeelde bedankjes: 1 keer
Bedankt: 2 keer

Bericht

ahrand schreef: 07 nov 2023, 18:44
monty_burns_007 schreef: 07 nov 2023, 15:26 ideaal moment dus om alles volledig over te schakelen naar de beter ondersteunde en stabielere DSMR Reader Home Assistant Addon die via MQTT de waardes publisht.
Hoe kan je dat eigenlijk weten/inschatten welke integraties beter ondersteund/stabieler zijn ?

Ik heb bv een Growatt inverter op m'n zonnepanelen,
blijkt nu dat de standaard integratie https://www.home-assistant.io/integrati ... tt_server/ al een half jaar niet meer werkt, de know issues worden automatisch terug gesloten https://github.com/home-assistant/core/ ... _server%22 maar die integratie staat wel nog altijd in de integratie lijst als dé enige en echte methode om te integreren met Growatt ....
Bij elke HA maand update werken er ineens allerlei dingen niet meer, is bijna maandelijks het geval (zonder dat hier breaking changes over vermeld zijn).
Zoals nu het geval met de DSMR integratie, ligt al dagen uit, zijn ineens allerlei entities van naam veranderd en ben je de oude logging kwijt.
DSMR Reading is een addon, geen integratie. Dit is een aparte Docker met webserver met een systeem wat meer getest wordt alvoren te releasen. Kan ook niet breken door een HA update omdat het een aparte docker is.

aangezien ik al dagen geen DSMR meer heb, had ik genoeg tijd om DSMR reader volledig op te zetten. Sinds ik ben overgeschakeld werkt dit perfect. Tevens het voordeel nu dat alles op MQTT staat en dus bruikbaar is ook buiten HA, bv. in NodeRED, enz.... Draait op een Pi 4 4GB. CPU load ging van 6% naar 8% (installatie DSMR reader docker, MQTT broker, de SQL DB die DSMR reader nodig heeft). Pi is nog even snel als voordien.

Maar idd iedereen vrij om te kiezen. Enkel spijtig dat ganse HA energy dashboard gekoppeld is aan entities namen en wisselen van integratie voor energie /zonnepanelen/... je opnieuw moet beginnen.
Gebruikersavatar
bollewolle
Elite Poster
Elite Poster
Berichten: 969
Lid geworden op: 16 nov 2007, 11:53
Twitter: bollewolle
Locatie: Gent
Uitgedeelde bedankjes: 181 keer
Bedankt: 82 keer
Recent bedankt: 1 keer

Bericht

Ik volg niet helemaal waarom je opnieuw zou moeten beginnen bij wisselen van Integraties, maar misschien ben ik niet mee met wat er precies gebeurd is met de DSMR integratie. Zelf ben ik al 3x van integraties gewisseld en heb ik enkel de nieuwe entities moeten toevoegen aan het dashboard (3 maand geleden nog bij in gebruik name van de SlimmeLezer+ voor de digitale meters). Ik heb heel de historiek nog van die ik ervoor gebruikt heb als entities.
Borromini
Pro Member
Pro Member
Berichten: 240
Lid geworden op: 13 feb 2018, 07:36
Uitgedeelde bedankjes: 278 keer
Bedankt: 26 keer

Bericht

monty_burns_007 schreef: 07 nov 2023, 15:26 ideaal moment dus om alles volledig over te schakelen naar de beter ondersteunde en stabielere DSMR Reader Home Assistant Addon die via MQTT de waardes publisht.
En nog 'ns MQTT optuigen ook bedoel je? Voorlopig leest HA alleen de metergegevens uit, voor de rest niks.
blatruwe schreef: 07 nov 2023, 15:55
Borromini schreef: 05 nov 2023, 20:07
Edit: net de metadata_id in de 'states' tabel vervangen, maar lijkt niks uit te maken, geschiedenis voor de vorige maanden is nog steeds leeg.
Mogelijks moet je dezelfde oefening nog eens maken met je statistics tabel, aangezien je die ook hebt moeten herinitialiseren
Net geprobeerd, maar die kolom heeft een filter, waarden gaan niet hoger dan 21. Maar was een poging waard.

Afbeelding
EDPnet Fiber XS 150/50 .:. Hardware: (OpenWrt 24.10 HEAD): MikroTik RB5009UG+S+IN ◌ ZyXEL GS1900-10HP PoE+ ◌ TP-Link EAP615-Wall (802.11ax) ◌ Netgear WAX202 (802.11ax) ◌ Netgear GS108T v3
blatruwe
Plus Member
Plus Member
Berichten: 206
Lid geworden op: 12 nov 2018, 16:24
Uitgedeelde bedankjes: 28 keer
Bedankt: 34 keer

Bericht

De ID's uit de States en statistics komen helaas niet overeen. Je zal moeten kijken naar de ID's in de statistics_meta tabel welke je moet wisselen.

Eventueel kan je met een query alle ID's in 1 keer wijzigen.
Borromini
Pro Member
Pro Member
Berichten: 240
Lid geworden op: 13 feb 2018, 07:36
Uitgedeelde bedankjes: 278 keer
Bedankt: 26 keer

Bericht

Bedankt, maar in SQL ben ik niet zo thuis... Ik kan wel wat basisdingen doen op de command line maar hier lijken teveel zaken mekaar te kruisen. Ik laat het wel gewoon zo.
EDPnet Fiber XS 150/50 .:. Hardware: (OpenWrt 24.10 HEAD): MikroTik RB5009UG+S+IN ◌ ZyXEL GS1900-10HP PoE+ ◌ TP-Link EAP615-Wall (802.11ax) ◌ Netgear WAX202 (802.11ax) ◌ Netgear GS108T v3
dean3009
Elite Poster
Elite Poster
Berichten: 843
Lid geworden op: 07 mei 2007, 09:19
Uitgedeelde bedankjes: 81 keer
Bedankt: 39 keer

Bericht

Eerst best een backup nemen en dan eens deze sql uitvoeren voor elke metriek:

update statistics set metadata_id = 72 where metadata_id = 6

Dit vervangt dus uw huidig verbruik waardes van het Engelstalige (6) naar het Nederlandstalige (72)

Ook voor de rest doen natuurlijk. Je kan dat ook in één query schrijven met een case-when maar dit is simpeler en ken ik vanbuiten